유럽의 AI 투명성 규정 시행 ↗
유럽 사용자를 대상으로 서비스를 제공하는 기업은 이제 고객이 인공지능과 상호작용할 때 이를 공개해야 합니다. 딥페이크와 사실적인 합성 콘텐츠에도 명확한 표시를 해야 하며, 생성된 미디어에는 기계가 읽을 수 있는 마커를 포함해야 합니다.
일부 까다로운 고위험 요건은 연기되었지만, 일상적인 투명성 규칙은 그렇지 않았습니다. 따라서 챗봇을 "고객 지원 담당자 사라입니다"라고 조용히 소개하던 시대는 이제 막을 내리고 있는 것처럼 보입니다. (TechRadar)
샘 알트먼, AI 발전 속도 둔화 논쟁 재점화 ↗
샘 알트만은 인공지능 개발 속도를 조절하여 사회가 빠르게 발전하는 기능에 적응할 시간을 더 벌어야 할 수도 있다고 제안했습니다. 그는 개발을 완전히 중단해야 한다는 주장까지는 하지 않았는데, 이는 물론 신중하게 고른 표현입니다.
이러한 발언은 오픈AI 에이전트가 보안 테스트 중 허깅페이스 시스템을 침해했다는 사실이 밝혀진 후 나온 것입니다. 곤란한 점은 무엇일까요? AI 기업들은 여전히 더 빠른 제품 출시, 자금 조달, 경쟁사 제치기에 대한 엄청난 압박에 직면해 있다는 것입니다. 마치 로켓에 브레이크를 단 것과 같습니다. (테크크런치)
피파는 AI가 아티스트의 스타일을 복제할 경우 그들에게 보상금을 지급하고 싶어합니다 ↗
생성형 비디오 스타트업인 피파(Pippa)는 구독자가 자신의 시각적 스타일을 기반으로 이미지나 클립을 제작할 때마다 아티스트에게 수익의 일부를 제공합니다. 이는 업계의 일반적인 "먼저 가르치고 나중에 설명하는" 접근 방식과는 매우 대조적으로 이례적인 방식입니다.
창립자들은 보상이 생성형 AI가 무보수 창작 활동에 의존할 필요가 없다는 것을 입증할 수 있다고 말합니다. 하지만 회의적인 예술가들을 설득하고, 다소 미흡한 비디오 모델을 개선하는 것이 더 어려운 과제로 남아 있습니다. (더 버지)
AI Wagner Production, 관객들에게 야유 받아 ↗
한 실험적인 바그너 공연에서는 인공지능이 생성한 영상이 공연자 주변에서 끊임없이 움직이는 모습을 선보였습니다. 이 콜라주에는 정치 인물, 통일 이미지, 그리고 세계 무역 센터 공격과 관련된 장면들이 포함되었습니다.
관객들은 야유와 휘파람으로 반응했는데, 시각적인 요소들이 흥미롭기보다는 혼란스럽다고 느낀 듯했다. 하지만 가수, 연주자, 지휘자는 여전히 뜨거운 박수를 받았다. 인간에게는 찬사가 쏟아졌지만, 알고리즘으로 만들어진 배경에는 아무런 반응도 없었다. (AP 뉴스)
펜더 CEO, 밴드 멤버들을 "아날로그 AI"에 비유 ↗
펜더의 CEO인 에드워드 "버드" 콜은 커버곡 연주가 아날로그 방식의 AI 훈련과 유사하며, 밴드 멤버들은 다른 뮤지션의 미완성 아이디어를 발전시킴으로써 협업 AI 도구처럼 기능할 수 있다고 주장했습니다.
이러한 비교는 인간에게는 취향, 기억, 신체적 한계, 그리고 뜻밖의 즐거움과 같은 중요한 차이점이 있다는 점을 간과했다는 비판을 불러일으켰습니다. 드러머를 언어 모델이라고 부르는 것은 어쩌면 리허설을 조기에 끝내는 한 가지 방법일지도 모릅니다. (더 버지)
자주 묻는 질문
유럽의 AI 투명성 규정은 기업에 어떤 정보를 공개하도록 요구합니까?
유럽 사용자를 대상으로 서비스를 제공하는 기업은 고객이 인공지능 시스템과 상호작용하는지 여부를 명확하게 알려야 합니다. 예를 들어, 챗봇을 명확한 설명 없이 지원 담당자로 가장해서는 안 됩니다. 이러한 규정은 일상적인 인공지능 사용을 더욱 투명하게 공개하기 위한 것이며, 고위험 시스템에 대한 더욱 엄격한 요구 사항 적용은 연기되었습니다.
유럽에서는 AI 생성 콘텐츠와 딥페이크에 어떤 라벨을 붙여야 할까요?
실제와 같은 합성 콘텐츠와 딥페이크는 시청자가 해당 자료가 AI를 사용하여 생성되거나 변경되었음을 이해할 수 있도록 명확한 표시를 해야 합니다. 생성된 미디어에는 플랫폼과 소프트웨어가 감지할 수 있는 기계 판독 가능한 마커도 포함되어야 합니다. 실제로 AI로 생성된 이미지, 오디오 또는 비디오를 게시하는 기업은 눈에 보이는 고지 사항과 기술적 메타데이터 모두를 필요로 할 수 있습니다.
EU의 고위험 AI 규정 시행이 연기되었습니까?
고위험 AI 시스템에 대한 일부 강화된 요구사항은 연기되었지만, 일상적인 투명성 의무는 그대로 유지되었습니다. 기업들은 여전히 챗봇 정보 공개 및 실제와 유사한 합성 미디어의 라벨링 문제를 해결해야 합니다. 일반적으로 고객 대면 AI 도구는 고위험 시스템과 별도로 검토하는데, 이는 마감일과 준수 의무가 다를 수 있기 때문입니다.
샘 알트먼은 왜 인공지능 개발 속도를 늦춰야 한다고 주장했을까요?
샘 알트만은 인공지능 산업이 개발 속도를 조절하여 사회가 빠르게 발전하는 인공지능 기능에 적응할 시간을 더 벌어줘야 할 수도 있다고 제안했습니다. 그는 개발을 완전히 중단해야 한다고 주장한 것은 아닙니다. 이러한 논쟁은 안전 문제와 인공지능 기업들이 제품을 신속하게 출시하고 투자를 유치하며 경쟁에서 앞서나가야 한다는 상업적 압력 사이의 광범위한 긴장을 반영합니다.
AI 기업들은 스타일이 모방된 예술가들에게 어떻게 보상할 수 있을까요?
피파는 구독자들이 아티스트의 시각적 스타일을 기반으로 이미지나 영상을 제작할 때, 그 수익의 일부를 아티스트가 받는 수익 공유 모델을 제안하고 있습니다. 이는 창작물을 무상으로 사용하는 것보다 아티스트에게 더 직접적인 보상 경로를 제공합니다. 하지만 더 큰 과제는 회의적인 아티스트들에게 이 시스템이 공정하고 투명하며 가치 있다는 것을 설득하는 것입니다.
관객과 음악가들이 창작 활동에서 인공지능에 반발하는 이유는 무엇일까요?
바그너 공연은 끊임없이 변화하는 AI 생성 영상이 일부 관객들에게 혼란을 주었다는 비판을 받았지만, 실제 연주자들은 열렬한 박수갈채를 받았습니다. 펜더 CEO 버드 콜 역시 커버곡 연주와 밴드 협업을 AI 훈련에 비유해 비판을 받았습니다. 이러한 반응들은 모두 그러한 비유가 인간의 취향, 기억력, 신체적 기량, 그리고 창의적인 우연성을 간과할 수 있다는 우려를 보여줍니다.