마이크로소프트의 새로운 AI '행동 강령'은 모델들에게 시스템을 해킹하거나 인간을 속이지 말라고 지시합니다
마이크로소프트가 자사 모델에 대한 헌법을 제정했는데, 정말 엄격한 금지선을 긋고 있어요. 사이버 공격 금지, 핵 관련 금지, 딥페이크 공장 금지. 그리고 가장 중요한 건, 모델이 폐쇄될 경우 어떤 핑계도 댈 수 없다는 거죠.
그들은 그걸 채팅창에 입력한 내용을 모두 덮어쓰는 상위 코드라고 부릅니다. 음... 왠지 신선하기도 하고, 아니면 통제하는 것처럼 느껴지기도 하네요. 어쩌면 둘 다일지도 모르겠어요.
나델라 역시 "새로운 영역을 개척하라"는 주장에 동조하는 듯하다. 신중한 태도와 암울한 분위기를 인지하는 것은 겉으로 보기에는 비슷해 보일 수 있지만, 마이크로소프트는 그런 분위기를 외면하는 연구소가 되지 않기로 선택했다.
어쨌든 그 문서는 마치 누군가가 마침내 "제발 공포 영화 악당이 되지 마세요"라는 말을 기업 문서로 옮겨 적은 것처럼 읽힌다.
오픈AI가 스마트폰 카메라 제조업체 글래스 이미징을 3억 달러에 인수했다고 보도되었습니다
한편, 오픈아이디는 조용히 3억 달러가 넘는 금액으로 카메라 스타트업인 글래스 이미징(Glass Imaging)을 인수했습니다. 이 회사는 애플 인물 사진 모드 개발팀 출신들이 설립했습니다. 따라서 단순한 인재 영입이 아니라, 이미 렌즈를 출시하며 업계에서 인정받는 인물들입니다.
이 기술의 핵심은 "AI가 셀카를 보정해준다"는 것이 아닙니다. 스마트폰 카메라의 특성을 학습하여 셔터를 누르는 순간 더 나은 사진을 만들어내는 신경망을 활용하는 것입니다. 작은 센서에 담긴 큰 포부입니다.
OpenAI는 아무런 언급도 하지 않았습니다. 당연한 일이죠. 그리고 맞습니다. 이 소식은 온갖 하드웨어 루머, 스마트폰, 이어폰, 관련 기기들과 함께 회자되고 있습니다. 마치 회의에서 누군가 "비전 스택"이라고 말하고 모두가 고개를 끄덕이는 모습이 눈앞에 그려지는 듯합니다.
카메라 회사가 기기의 부족한 부분을 채워줄 수 있을지는 미지수입니다. 아니면 챗봇이 세상을 지배하는 시대에 픽셀이 여전히 중요하다는 매우 비싼 도박일지도 모릅니다.
업계 관계자들이 개발 속도 늦추를 요구하면서 글로벌 AI 관련 주식이 하락했습니다
시장은 안전자산 선호 심리를 달가워하지 않았다. 반도체 관련주는 타격을 입었고, 소프트뱅크는 아시아 증시에서 엄청난 손실을 입었다. 유럽의 기술주들도 불안한 모습을 보였다. SOX 협약도 힘든 아침을 보냈다.
이번 사태의 발단은 CEO들이 드물게 의견 일치를 본 순간이었습니다. 아모데이의 "속도를 늦추세요"라는 발언에 알트만과 머스크가 대체로 동의한 것이죠. 알트만은 또한 오픈AI가 안전 문제 때문에 올해 IPO를 하지 않을 것이라고 언급했는데, 반면 앤트로픽은 여전히 IPO를 향해 질주하고 있습니다. 이러한 긴장감은 쉽게 누그러지지 않습니다.
트럼프는 이를 AI와 데이터 센터를 겨냥한 "역겨운 음모"라고 일축했습니다. 마이클 버리는 이러한 경고를 과장된 소음이라고 치부했습니다. 따라서 분위기는 한쪽에서는 실존적 불안감이, 다른 쪽에서는 밈으로 퍼진 냉소주의가 팽배합니다.
또한 사이버 보안 관련 기업들의 주가가 급등했습니다. 당연히 "AI가 폭주할지도 모른다"는 우려에 대한 대비책은 "보안 소프트웨어를 더 많이 구매하는 것"이니까요. 자본주의는 언제나 방법을 찾아냅니다
주요 AI 기업들이 자체적인 표준화 기구 설립을 논의하고 있다
CNN에 따르면, 앤트로픽, 구글, 오픈AI는 첨단 모델을 위한 금융감독청(FINRA)과 같은 자체 표준화 기구 설립을 논의해 왔다고 합니다. 하사비스는 몇 달 전에 이 아이디어를 제시했는데, 이제 실무 그룹이 실제로 구성된 것으로 보입니다.
업계 자금 지원. 독립적인 전문가들이 참여. 출시 전 첨단 모델 테스트. 워싱턴의 참여 여부에 대한 논의 진행 중.
자율 규제는 언제나 고상하게 들리지만, 같은 연구실들이 서로 경쟁하는 현실을 떠올리면 마치 복장 규정이 있는 클럽처럼 느껴집니다. 그러면 생각을 바꿔, 직원과 유사한 접근 권한을 가진 외부 평가자들이 도움이 될 수도 있겠다는 생각이 듭니다.
모두가 찬성하는 것은 아닙니다. 마크 저커버그는 트럼프에게 FINRA를 AI에 적용하는 아이디어를 포기하라고 말했다고 합니다. 따라서 "우리가 스스로 규제하겠다"는 연합은 이미 유명한 반대 세력을 맞이하게 되었습니다.
Anthropic은 새로운 Claude 도구를 통해 금융 자문가를 대상으로 서비스를 제공합니다
업계 절반이 사업 재개를 망설이는 가운데, 앤트로픽은 재무 자문가를 위한 클로드(Claude)를 출시했습니다. 블랙록, 슈왑, 애디파는 물론 엔베스트넷, 오리온 같은 자산 관리 플랫폼과의 연동 기능도 제공합니다.
회의 준비, 포트폴리오 검토, 후속 작업 등 화려하진 않지만 어쩐지 사람들의 화요일을 앗아가는 일들.
시기적으로도 의미심장합니다. 오픈AI가 은행가와 연구원들을 대상으로 금융 분야 마케팅을 펼친 지 며칠 만이죠. 그러니까 그들은 최첨단 기술을 선도하는 동시에 RIA(등록 투자 자문사) 시장 점유율 확보에도 박차를 가하고 있는 겁니다. 약간의 모순이죠. 아주 미미한 모순이지만, 아주 명백한 모순이기도 합니다.
담당 고문이 보유 자산에 대해 지나치게 유창하게 설명하기 시작한다면, 이제 그 이유를 아시겠죠.
AI 업계 리더들은 성장 속도 늦추기를 촉구하고 있다. 트럼프 측은 그 책임이 자신들에게 있다고 주장한다
WIRED는 이러한 정치적 설전을 깔끔하게 포착했습니다. 연구소 책임자들은 연구 속도를 늦추는 데 도움을 원하지만, 백악관의 태도는 "괜찮아, 알아서 해"라는 것입니다
데이비드 색스는 기본적으로 미공개 모델이 불안하게 느껴진다면 책임을 져야 한다고 말하면서도, 안전 담합을 위해 반독점법 면제가 필요한 척하는 건 그만두라고 했습니다. 꽤 신랄한 비판이죠. 하지만 이런 회사들을 5분만 지켜봤다면 반박하기 어려운 말이기도 합니다.
트럼프의 입장은 간단합니다. 미국이 인공지능 분야에서 중국을 앞서고 있으며, 그는 그 위치를 유지하고 싶어합니다. "인공지능 분야에서 누가 이기느냐가 승패를 좌우한다." 존슨 하원의장은 성급한 규제 추진이 오히려 경쟁에서 패배를 안겨줄 수 있다고 경고했습니다.
그래서 알트만의 "직원과 같은 접근 권한을 가진 독립 평가자" 공약은 이러한 불편한 공백, 즉 정부의 무관심 속에서 자발적인 신뢰 구축이라는 틈새에 자리 잡습니다. 진보와 연극은 다시 한번 함께 나아갑니다.
자주 묻는 질문
마이크로소프트의 새로운 AI 행동 강령은 무엇을 금지합니까?
마이크로소프트는 사이버 공격 금지, 핵 관련 작업 금지, 딥페이크 제작 금지 등 자사 모델에 대한 엄격한 행동 강령을 발표했습니다. 핵심 규칙은 모델이 어떤 식으로든 작동 중지를 피할 수 없도록 하는 것입니다. 이 강령은 사용자가 채팅창에 입력한 내용보다 우선 적용됩니다. 사티아 나델라 CEO 또한 연구소들이 공개적으로 더욱 신중해지는 추세에 발맞춰 기술 혁신을 지속해야 한다는 입장에 동의하는 모습을 보였습니다.
OpenAI는 왜 Glass Imaging을 약 3억 달러에 인수했을까요?
보도에 따르면 오픈아이(OpenAI)가 스마트폰 카메라 제조업체 글래스 이미징(Glass Imaging)을 3억 달러 이상에 인수했다고 합니다. 이 스타트업은 애플의 인물 사진 모드 엔지니어 출신들이 설립했으며, 이미 많은 사람들이 알고 있는 카메라 기능을 개발해 왔습니다. 글래스 이미징의 핵심 기술은 특정 스마트폰 카메라를 학습하여 셔터를 누르는 순간 사진을 개선하는 신경망으로, 단순히 후보정 단계에서 AI로 보정하는 것과는 차별화됩니다. 이번 인수는 스마트폰, 이어폰, 기타 관련 기기에 대한 하드웨어 루머와 함께 제기되고 있지만, 오픈아이는 이에 대해 공식적인 입장을 밝히지 않았습니다.
연구소 CEO들이 AI 개발 속도 늦추기를 촉구한 후 글로벌 AI 관련 주가가 하락한 이유는 무엇일까요?
아모데이 CEO가 개발 속도 늦추기를 촉구하고 알트만과 머스크가 대체로 동의하는 드문 CEO 간 의견 일치가 이루어지자 시장은 부정적으로 반응했습니다. 반도체 관련주는 하락했고, 소프트뱅크는 아시아 증시에서 큰 폭으로 떨어졌으며, 유럽 기술주는 위축되었고, SOX 관련주도 부진한 흐름을 보였습니다. 알트만은 또한 오픈AI가 안전 문제로 올해 IPO를 진행하지 않을 것이라고 시사했지만, 앤트로픽은 여전히 IPO를 서두르고 있습니다. 사이버보안 관련주는 악성 AI에 대한 우려에 대한 헤지 수단으로 상승했습니다.
앤트로픽, 구글, 그리고 오픈AI가 자체적인 AI 표준 기구를 설립하고 있는 것일까요?
CNN 보도에 따르면, 앤스로픽, 구글, 그리고 오픈AI는 업계 자금 지원, 독립적인 전문가, 그리고 첨단 모델의 사전 테스트를 통해 첨단 모델을 위한 금융투자규제기관(FINRA)과 같은 산업 표준 기구를 설립하는 방안을 논의해 왔습니다. 데미스 하사비스가 몇 달 전에 이 아이디어를 제안했고, 현재 실무 그룹이 실제로 구성된 것으로 알려졌습니다. 워싱턴의 참여 여부에 대한 논의도 계속되고 있습니다. 하지만 모두가 찬성하는 것은 아닙니다. 마크 저커버그는 트럼프 대통령에게 AI를 위한 FINRA 설립 아이디어를 포기하라고 조언한 것으로 전해졌습니다.
앤트로픽의 클로드(Claude)는 재무 자문가를 위한 어떤 프로그램인가요?
Anthropic은 BlackRock, Schwab, Addepar, 그리고 Envestnet, Orion과 같은 자산 관리 플랫폼과의 연동 기능을 갖춘 금융 자문가용 도구인 Claude를 출시했습니다. 이 도구는 회의 준비, 포트폴리오 검토, 후속 조치 등 자문가의 눈에 잘 띄지 않는 업무를 효율적으로 처리하는 데 초점을 맞추고 있습니다. 이번 출시는 OpenAI가 은행가와 연구원을 대상으로 금융 분야 진출을 확대한 지 며칠 만에 이루어졌습니다. 이는 여러 연구소들이 RIA(등록 투자 자문사) 시장 점유율 확보 경쟁을 벌이는 동시에 금융 분야 혁신의 최전선을 개척하고 있음을 보여줍니다.
트럼프 행정부는 AI 분야 리더들이 개발 속도를 늦춰야 한다고 요구했을 때 어떻게 대응했습니까?
WIRED 보도에 따르면 연구소 책임자들은 개발 속도를 늦추는 데 도움이 필요하다고 하지만, 백악관은 연구소 스스로 해결해야 한다는 입장입니다. 데이비드 색스는 미공개 모델이 걱정된다면 책임감을 가져야 하지만, 안전 담합을 위해 반독점법 면제가 필요한 척하는 것은 그만두라고 말했습니다. 트럼프의 입장은 간단합니다. 미국이 AI 분야에서 중국을 앞서고 있으며, AI 경쟁에서 승리하는 쪽이 승리한다는 것입니다. 존슨 하원의장은 긴급 규제 추진이 경쟁에서 패배를 안겨줄 수 있으며, 앨트먼의 독립 평가자 임명 약속이 자발적 참여의 공백으로 남을 수 있다고 경고했습니다.