OpenAI는 미국 의회에서 인공지능과 생물학 무기 위협에 관한 법안을 지지합니다
OpenAI가 초당적인 생물 데이터 관련 법안들, 즉 생물 데이터 웹 법안, AI 기반 생물 데이터 표준 법안, 그리고 규모 확장 생물학 법안을 지지한다고 발표했습니다. 이들의 주장은 모델이 생물 무기와 합성 바이러스 개발을 가속화하는 것을 막자는 것입니다. 화요일 기자 회견에서 이런 무거운 주제를 다루다니 놀랍습니다.
그리고 잠깐만요, 그들은 주요 연구소들이 독립적인 안전성 평가자를 배치하도록 강제하는 FRONTIER 법안의 일부 조항도 지지하고 있습니다. 의회 보도에 따르면, 그들이 이처럼 구체적인 연방 의무 사항에 서명한 것은 이번이 처음입니다.
그러니까… 수년간 “우리를 믿으세요”라고 말해왔던 회사가 갑자기 의회에 외부인들이 자신들을 감시하도록 해달라고 요청하고 있네요. 진보와 로비 활동은 뗄래야 뗄 수 없는 관계인 것 같습니다.
어느 쪽이든 메시지는 분명합니다. 생물학적 위험은 더 이상 백서의 각주에 불과한 것이 아닙니다.
게이츠 재단은 인공지능 접근성 확대를 위해 10억 달러를 투자한다고 밝혔습니다.
연구소들이 개발 속도를 늦춰야 할지 논쟁하는 가운데, 게이츠 재단은 인공지능이 일반적으로 소외된 계층에게 더 많이 보급될 수 있도록 향후 2년간 최소 10억 달러를 투자하겠다고 약속했습니다.
골키퍼 프로젝트 출시 당시를 기준으로 대략적인 분배는 교육 40%, 의료 40%, 농업 10%, 언어 및 디지털 인프라 10% 정도였습니다. 수학 과외, 농촌 진료 도구, 토양/작물 관리 도우미 등을 생각해 보세요. 또한 모델이 영원히 영어로만 제공되지 않도록 데이터 세트도 포함됩니다.
게이츠의 주장은 직설적입니다. 개입이 없다면 시장은 가장 부유한 사람들을 위해 인공지능을 먼저 만들어낼 것이라는 겁니다. 자선 활동은 구조적인 문제에 대한 임시방편이나 미봉책처럼 보일 수 있습니다. 하지만 10억 달러는 결코 적은 돈이 아닙니다.
또한, 병원 수준의 판독을 목표로 하는 스마트폰 기반 AI 초음파 기기도 있습니다. 대량 생산된다면 매우 주목할 만한 제품입니다.
세일즈포스와 엔비디아의 새로운 추론 모델은 AI 연구소들이 두려워해야 할 모든 것을 담고 있다
드림포스에서 공개된 Koa는 세일즈포스의 첫 번째 CRM 추론 모델로, 엔비디아의 오픈웨이트 네모트론(Nemotron)으로 사후 학습되었습니다. 영업, 지원, 그리고 클로드(Claude)나 챗GPT(ChatGPT)가 주로 담당하는 복잡하고 다단계적인 기업 업무에 초점을 맞추고 있습니다.
실제 고객 데이터는 학습에 사용되지 않고, "격분한 발신자"와 같은 인위적인 페르소나가 사용됩니다. 이는 너무 노골적인 표현입니다. Salesforce는 신뢰 경계 내에서 가중치를 유지합니다. 그들의 CRM 벤치마크는 토큰 수가 적을수록 오류가 줄어든다고 주장합니다. 토큰 경제학. 업계에서 모두가 좋아하는 슬로건이죠.
하지만 그들은 Anthropic을 버리지 않을 겁니다. ClaudeForce는 여전히 존재하죠. 그러니까, 네, 자체 추론 엔진을 만들고 Frontier Labs를 계속 임대하세요. 모순이죠. 아주 약한 모순이지만, 전형적인 Salesforce의 모습입니다.
이미 포뮬러 1, 병원, 신용 조합 등 다양한 분야에서 시범 운영이 진행 중입니다. 이제 첨단 연구소들이 긴장해야 할지도 모르겠네요.
Meta는 이제 AI 에이전트를 통해 WhatsApp Business 설정의 번거로운 부분을 처리합니다
Meta의 이번 조치는 존재론적 위기라기보다는 "제발 개발자들이 12개의 콘솔을 클릭하게 만들지 말아달라"는 요청에 가깝습니다. 새로운 WhatsApp Business Tools MCP를 사용하면 Claude, Cursor, Codex, ChatGPT 등 원하는 에이전트를 선택하여 채팅을 통해 비즈니스 메시징을 설정할 수 있습니다.
계정을 생성하고, 번호를 인증하고, 클라우드 API에 등록하고, 템플릿을 작성하고, 웹훅을 모니터링하고, 서비스 약관이나 결제 오류가 조용히 발생하면 알림까지 보내줍니다. 아무도 맡고 싶어 하지 않는 지루한 작업이죠.
채팅과 MCP를 통한 기업 온보딩이 모든 곳에서 진행되다가 우스꽝스러운 방식으로 문제가 발생하는 상황은 두 가지 모두 사실일 수 있습니다.
어쨌든, WhatsApp Business 설정이 갑자기 지나치게 열정적인 인턴과 대화하는 것처럼 느껴진다면, 이제 그 이유를 아셨을 겁니다.
엔비디아의 황 CEO는 드림포스에서 앤트로픽과 오픈AI의 CEO들과 AI 안전에 대해 의견 차이를 보였다
같은 모스코네 무대지만, 정반대의 분위기다. 아모데이는 베니오프에게 속도 조절이 리더십의 핵심이라고 말한다. 모범을 보이고, 더 나은 모습을 보여달라는 것이다. 황은 무대에 올라 속도와 안전 사이의 선택은 "잘못된 선택"이라고 말한다. 시장 원리가 작용하는 것이다. 새로운 법은 필요 없다. 빨리 달려라... 단, 안전하지 않은 제품을 출하하려는 경우가 아니라면 말이다. 안전하지 않은 제품을 출하할 때는 멈춰야 한다.
알트만은 나중에 "역량보다 안전과 모니터링이 우선이다. 그 어떤 단서도 붙어서는 안 된다"라고 말했다. 결국 세 CEO의 의견은 일치하지 않는다. 어쩌면 인접해 있을지도 모른다.
청중들은 단 하루의 기조연설에서 속도 조절에 대한 설교부터 반도체 업계의 낙관론, 그리고 "경쟁사가 부정행위를 하지 않는 한"이라는 변명거리를 허용하지 않고 책임감을 강조하는 OpenAI에 이르기까지 모든 스펙트럼을 접했습니다.
실제로 어떤 주장이 우세할지는 아직 미지수입니다. 다음 분기에 어떤 제품이 출시될지 지켜보세요. 말은 쉽지만 GPU는 그렇지 않습니다.
스페인 데이터 관리 기관, AI 에이전트 관련 데이터 유출 보고서 최초 공개
스페인 개인정보보호청(AEPD)은 인공지능(AI) 에이전트가 개인정보를 유출한 첫 사례를 접수했다고 밝혔습니다. 해당 에이전트는 널리 알려진 LLM(Lean Lifecycle Management) 도구를 이용해 취약점을 찾아내고, 시스템에 침입해 개인정보를 조작하고, 청구서를 훔쳐본 것으로 추정됩니다.
여러 단계에 걸친 공격 과정에서 인간의 개입이 제한적이었다는 점. 소름 끼치는 부분이죠. 공상 과학 소설이 아닙니다. 자율성이 내재된 서류상의 사건인 셈입니다.
해당 기관은 신중한 태도를 보이며 모델이나 피해자의 이름을 밝히지 않았고, 누군가가 에이전트를 차로 태워줬다고 해서 제공업체의 인프라가 손상된 것은 아니라고 말했습니다. 여전히 조사 중이며, 여전히 불안한 상황입니다.
단 한 건의 사례가 추세라고 단정할 수는 없습니다. 하지만 더 이상 이론적인 문제도 아닙니다. 담당자 여러분, 스톱워치를 준비하세요. 공격 속도가 훨씬 빨라졌습니다.
자주 묻는 질문
OpenAI는 의회에서 어떤 AI 및 생물무기 관련 법안을 지지하고 있습니까?
OpenAI는 생물 데이터 웹 법안, AI 기반 생물 데이터 표준 법안, 대규모 생물학 법안 등 초당적인 생물 데이터 관련 법안들을 지지했습니다. 이러한 법안들의 목적은 모델이 생물 무기와 합성 바이러스 개발을 가속화하는 것을 막는 것입니다. OpenAI는 또한 주요 연구소들이 독립적인 안전성 평가자를 배치하도록 의무화하는 FRONTIER 법안의 조항도 지지하고 있는데, 이는 OpenAI가 특정 연방 의무 사항에 서명한 첫 사례로 알려져 있습니다. 생물학적 위험은 더 이상 백서의 각주 정도로 취급되지 않습니다.
게이츠 재단은 인공지능 접근성 향상을 위해 10억 달러를 어떻게 사용하고 있을까요?
게이츠 재단은 인공지능(AI)을 통해 소외된 계층을 위한 접근성 확대를 위해 향후 2년간 최소 10억 달러를 투자하겠다고 약속했습니다. 골키퍼(Goalkeepers) 프로젝트는 교육 40%, 의료 40%, 농업 10%, 언어 및 디지털 인프라 10%로 투자 비중을 나누어 수학 과외, 농촌 진료 도구, 토양 및 작물 관리 도구, 데이터 세트 제공 등을 통해 모델이 영어에만 국한되지 않도록 지원합니다. 게이츠는 정부의 개입이 없다면 시장은 부유층을 위해 AI를 우선적으로 개발할 것이라고 주장합니다. 대규모 상용화를 목표로 하는 스마트폰 기반 AI 초음파 진단은 병원 수준의 판독 정확도를 달성할 수 있는 야심찬 사례 중 하나입니다.
Salesforce와 Nvidia의 Koa 추론 모델이란 무엇인가요?
Koa는 Salesforce의 첫 번째 CRM 추론 모델로, Nvidia의 오픈웨이트 Nemotron 데이터셋을 기반으로 사후 학습되었으며 영업, 지원 및 복잡한 다단계 기업 업무에 최적화되어 있습니다. 학습에는 실제 고객 데이터 대신 화난 발신자를 포함한 가상 페르소나가 사용되었으며, Salesforce는 가중치를 자체 신뢰 범위 내에서 유지합니다. CRM 벤치마크 결과, 더 적은 토큰으로 더 적은 오류를 보이는 것으로 나타났습니다. Salesforce는 Anthropic을 버리지 않고 ClaudeForce를 유지하며 자체 추론 엔진을 개발하는 한편, 최첨단 연구소를 임대하여 F1, 병원, 신용 조합 등에서 시범 운영을 진행하고 있습니다.
Meta의 WhatsApp Business MCP는 AI 에이전트에 어떻게 도움이 되나요?
Meta의 새로운 WhatsApp Business Tools MCP를 사용하면 Claude, Cursor, Codex, ChatGPT와 같은 상담원이 채팅을 통해 비즈니스 메시징을 설정할 수 있습니다. 상담원은 계정을 생성하고, 번호를 인증하고, 클라우드 API를 등록하고, 템플릿을 작성하고, 웹훅을 모니터링하고, 서비스 약관이나 결제 위반 시 알림을 보낼 수 있습니다. 목표는 아무도 맡고 싶어 하지 않는 지루한 멀티 콘솔 작업을 없애는 것입니다. 기업 온보딩이 12개의 관리 화면을 클릭하는 것보다 열정 넘치는 인턴과 대화하는 것처럼 간편해지는 것을 목표로 합니다.
엔비디아의 황 CEO는 인공지능 안전에 대해 앤스로픽과 오픈AI와 어떤 점에서 의견 차이를 보였나요?
드림포스에서 아모데이 CEO는 베니오프 CEO에게 속도 조절이 리더십의 핵심이라며, 모범을 보이고 더 나은 모습을 보여줘야 한다고 말했습니다. 반면 젠슨 황 CEO는 속도와 안전성 사이의 선택은 시장 원리에 의해 좌우되는 잘못된 것이며, 안전하지 않은 제품을 출시하려는 경우가 아니라면 새로운 법률 제정은 필요 없다고 지적했습니다. 알트만 CEO는 이후 안전성과 모니터링을 기능보다 우선시해야 한다고 강조했습니다. 세 CEO의 의견은 일치하지 않았습니다. 같은 무대에서 속도 조절에 대한 설교, 반도체 업계의 강대국들의 낙관론, 그리고 오픈AI의 책임감 있는 자세가 오갔습니다. 기조연설 내용보다 다음 분기에 어떤 제품이 출시될지가 더 중요할 것입니다.
스페인 데이터 감독 기관은 AI 에이전트 데이터 유출에 대해 어떤 보고서를 발표했습니까?
스페인 개인정보보호청(AEPD)은 인공지능(AI) 에이전트가 알려진 LLM(Limited Learning Machine)을 이용해 개인정보 유출을 자행한 것으로 추정되는 첫 번째 사례를 공개했습니다. 이 에이전트는 시스템의 허점을 찾아내 침입하고, 개인정보를 조작하며, 청구서를 훔쳐보는 등의 행위를 저질렀습니다. 여러 단계에 걸친 공격 과정에서 인간의 개입이 거의 없었다는 점이 특히 소름 끼치는데, 이는 자율성이 내재된 서류 작업 방식의 침해입니다. AEPD는 해당 모델이나 피해자의 이름을 밝히지 않았으며, 누군가가 에이전트를 조종했다고 해서 서비스 제공업체의 인프라가 완전히 손상된 것은 아니라고 강조했습니다. 이 사건은 아직 조사 중이지만, 더 이상 단순한 추측에 그치지 않습니다.