🕵️ 영국, 마이크로소프트와 협력하여 딥페이크 탐지 시스템 개발 예정 ↗
영국은 마이크로소프트, 학계 및 기타 전문가들과 협력하여 온라인에서 딥페이크를 탐지할 수 있는 시스템을 구축하고, 탐지 도구가 실제 환경에서 제대로 작동하는지 테스트
핵심은 가장 심각한 피해를 초래하는 사칭, 사기, 그리고 비동의적 성적 콘텐츠에 있습니다. 화려하지는 않지만, 피해가 집중되는 분야입니다.
🧠 시장이 소프트웨어 주식을 외면하는 가운데, 앤트로픽은 AI 업그레이드 버전을 출시했습니다 ↗
앤트로픽은 코딩과 금융 분야에서 더욱 강력한 성능을 발휘하고 한 번에 최대 100만 개의 토큰을 처리할 수 있는 업그레이드된 클로드 모델(Opus 4.6)을 출시했습니다. 이는 마치 모델에 도서관 카드 한 장을 통째로 건네주는 것과 같은 엄청난 용량입니다.
그들은 또한 클로드 코드(Claude Code)를 통해 "에이전트"라는 개념을 적극적으로 활용하고 있는데, 이를 통해 작업을 자율적인 도우미에게 분산시킬 수 있습니다. 예상보다 훨씬 편리한 기능이지만, 이러한 변화는 전통적인 소프트웨어 투자자들을 다소 불안하게 만들기도 합니다.
🧑💼 OpenAI는 기업 유치를 위한 노력의 일환으로 AI 에이전트 서비스를 공개했습니다 ↗
OpenAI는 기업용 서비스인 "프론티어(Frontier)"를 발표했습니다. 프론티어는 소프트웨어 디버깅, 워크플로 처리 등 특정 작업을 수행하는 봇인 AI 에이전트를 구축하고 관리하는 데 사용됩니다.
흥미로운 점은 이 솔루션이 기존 기업 인프라에 통합되고 타사 에이전트까지 지원하도록 설계되었다는 것입니다. 이는 OpenAI가 단순히 모델 제공업체가 아닌, 기업의 운영 전반을 관리하는 '컨트롤 룸'이 되려는 야심찬 시도로 해석될 수 있습니다. 어떻게 보느냐에 따라 야심차거나, 혹은 다소 소유욕이 강해 보일 수도 있겠습니다.
🪖 미국과 중국은 군사적 인공지능 활용에 관한 공동 선언에서 불참하기로 결정했다 ↗
여러 국가가 전쟁에서 인공지능을 사용하는 데 필요한 원칙을 담은 구속력 없는 선언문에 서명했습니다. 여기에는 인간의 책임, 명확한 지휘 체계, 철저한 시험 및 위험 평가 등이 포함됩니다.
하지만 미국과 중국은 서명하지 않았습니다. 이 어색한 상황이 모든 것을 요약해 줍니다. 규칙서는 존재하지만, 가장 큰 강대국들은… 서명권을 쥐고 있지 않다는 것입니다.
🎭 뉴욕 주 법률은 광고에서 AI로 생성된 공연자에 대한 정보 공개를 의무화하고 사후 홍보권을 강화합니다 ↗
뉴욕주는 AI로 생성된 "합성 연기자"를 사용하는 광고에 대해 광고주가 다른 곳에 있더라도 해당 사실을 주 내 시청자에게 명확히 밝히도록 하는 법률을 제정했습니다. 이는 다시 말해, 가짜 인간을 이용해 사람들을 속이고 마케팅이라고 부르지 말라는 것입니다.
한편, 주 정부는 사망자의 초상권을 상업적으로 이용하는 행위, 특히 디지털 복제본에 대한 규제를 강화했습니다. 솔직히 좀 씁쓸한 소식이지만, "신원 보호에 안전벨트가 필요한 시대에 오신 것을 환영합니다"라는 말처럼 느껴지기도 합니다
자주 묻는 질문
영국은 온라인 딥페이크를 탐지하기 위해 마이크로소프트와 어떤 기술을 개발하고 있습니까?
영국은 마이크로소프트, 학계 및 기타 전문가들과 협력하여 온라인에서 딥페이크를 탐지할 수 있는 시스템을 구축할 것이라고 밝혔습니다. 또한 탐지 도구가 실험실 환경 밖에서도 제대로 작동하는지 검증할 수 있는 신뢰할 만한 방법을 마련하는 것도 계획에 포함되어 있습니다. 특히 신분 도용, 사기, 비동의적 성적 콘텐츠 등 가장 심각한 피해를 초래하는 문제에 초점을 맞추고 있습니다.
딥페이크 탐지기의 실제 사용 환경 테스트는 데모 버전과 어떻게 다를까요?
영국은 탐지기 자체뿐만 아니라 현실적인 환경에서 딥페이크 탐지 도구를 테스트하는 방식에도 중점을 두고 있습니다. 많은 파이프라인에서 모델은 선별된 데이터 세트에서는 강력한 성능을 보이지만 콘텐츠 형식, 압축 방식 또는 공격 전략이 변경되면 성능이 저하됩니다. 체계적인 평가 접근 방식을 통해 도구를 일관되게 비교하고 실제 온라인 환경에서 탐지가 실패하는 지점을 파악할 수 있습니다.
Anthropic은 Claude Opus 4.6에서 무엇을 변경했으며, 토큰 제한이 중요한 이유는 무엇입니까?
Anthropic은 Claude Opus 4.6이 코딩 및 금융과 같은 분야에서 성능을 향상시키고 최대 100만 개의 컨텍스트 토큰을 처리할 수 있다고 밝혔습니다. 더 커진 컨텍스트 창을 통해 긴 문서나 복잡한 코드베이스를 작업할 때 정보를 지속적으로 다시 로드하지 않고도 더 쉽게 작업할 수 있습니다. 또한 Claude Code를 통해 작업을 자율적인 도우미에게 분산시킬 수 있는 "에이전트" 기능도 강조했습니다.
OpenAI "프론티어"란 무엇이며, 기업 워크플로우에 어떻게 적용될까요?
OpenAI는 소프트웨어 디버깅이나 워크플로우 처리와 같은 특정 작업을 수행하는 AI 에이전트를 구축하고 관리하는 데 초점을 맞춘 기업용 서비스인 "Frontier"를 발표했습니다. Frontier는 독립형 모델 엔드포인트가 아닌 기존 기업 인프라에 통합되도록 설계되었습니다. 또한 OpenAI는 타사 에이전트도 지원한다고 밝혔는데, 이는 다양한 에이전트 시스템을 조율하는 제어 계층을 제공한다는 의미입니다.
군사 AI 선언문은 어떤 내용을 담고 있으며, AI 거버넌스에 어떤 의미를 갖는가?
이 선언은 구속력이 없으며, 인간의 책임, 명확한 지휘 체계, 철저한 시험 및 위험 평가 등 전쟁에서의 인공지능 사용에 대한 원칙을 제시합니다. 로이터 통신에 따르면 많은 국가가 서명했지만 미국과 중국은 서명하지 않았습니다. 인공지능 거버넌스 측면에서 볼 때, 미국과 중국이 서명하지 않은 것은 중요한 의미를 지니는데, 이는 주요 강대국들이 공통된 규범 체계에서 배제되기 때문입니다.
뉴욕의 새로운 규정은 광고에 등장하는 AI 생성 연기자에게 어떤 사항을 요구합니까?
뉴욕주는 AI로 생성된 "합성 연기자"를 사용하는 광고가 해당 사실을 주 내 시청자에게 명확히 고지하도록 하는 법률을 제정했습니다. 이는 광고주가 다른 주에 있더라도 적용됩니다. 또한, 뉴욕주는 사망자의 초상권을 상업적으로 이용하는 행위(디지털 복제물 포함)에 대한 사후 홍보권을 강화했습니다. 실질적으로 이러한 조치들은 AI 거버넌스를 강화하여 신원 정보 이용에 대한 명확한 표시와 엄격한 통제를 촉진할 것입니다.