앤트로픽 CEO, AI 개발 속도 늦추기 계획 발표
다리오 아모데이는 업계에… 속도를 늦추라고 요청했습니다. 멈추라는 게 아니라, 속도를 조절하라는 겁니다. 긴 에세이, 세 가지 단계, 그리고 재귀적 자기계발이 어른들이 제대로 검토할 틈도 없이 빠르게 진행되고 있다는 경고까지.
앤트로픽은 일방적으로 평가자들을 건물 안으로 들여보내 배지, 책상, 노트북을 제공하고 홍보 검열 없이 결과를 발표할 권리까지 부여하고 있습니다. 그러고 나서 민주적인 연구소들이 안전 기준을 조율하기를 원합니다. 그리고 어떻게든 권위주의 정부들과도 협상을 하려 합니다. 서류상으로는 쉬워 보이지만, 현실에서는 매우 어렵습니다.
그는 여전히 AI가 기적이 될 수 있다고 말합니다. 또한, 더욱 강력하고 조직적이지 않은 봇들이 지속적인 봇넷을 통해 인터넷을 장악하고 수천억 달러의 피해를 입힐 수도 있다고 말합니다. 이 두 문장은 나란히 놓여 있는데, 서로 어울리지 않습니다.
아, 그리고 그는 안전 관련 논의 자체가 법적인 문제가 되지 않도록 제한적인 반독점법 면제를 원합니다. 브레이크 설치에는 서류 작업이 따르죠. 당연하죠.
샘 알트만은 오픈AI가 올해 기업공개(IPO)를 하지 않을 것이라고 확인하면서, 인공지능 안전에 대한 우려가 있는 지금 IPO를 하는 것은 '현명하지 못한 시기'라고 말했다
알트만은 단독 인터뷰에 응하며 상장 일정을 취소한다고 밝혔습니다. 그는 지금 IPO를 하는 것은 "현명하지 못한 시기"라고 말했습니다. 안전 관련 작업이 아직 끝나지 않았고, 의견 조율도 완료되지 않았으며, 사회도 아직 준비되지 않았다는 것입니다. 그는 다시 한번 올해는 안 된다고 강조했습니다.
은행가들은 이미 주변을 맴돌고 있었다. 기밀 서류도 존재한다. 이제 CEO는 업계와 정부가 어떻게 협력해야 할지 등 먼저 해야 할 일이 많다고 말하고 있다. 그는 기다리는 것이 오히려 다행이라고 생각하는 듯했다.
그는 또한 인간의 통제를 벗어난 인공지능 구축이 "절대적으로" 가능하다고 말한 후, 만약 그런 방향으로 나아간다면 훈련을 중단하겠다고 공언했습니다. 대담한 발언입니다. 어쩌면 편리한 전략일지도 모르겠습니다. 어쩌면 둘 다일 수도 있습니다. 그는 비영리 단체와 영리 단체의 복잡한 구조가 존재하는 이유는 주주들의 이익에 명백히 부합하지 않는 결정을 내릴 수 있도록 하기 위함이라고 주장했습니다. 과연 그의 주장이 실제 투자설명서와 맞닥뜨렸을 때 효력을 발휘할 수 있을지 두고 봐야겠습니다.
오픈AI의 샘 알트만은 안전 위험 문제를 해결하기 위해 다른 AI 기업들과 협약을 맺을 가능성을 시사했습니다
같은 인터뷰인데 제목이 다르네요. 이번엔 은밀한 소문이에요. 아모데이, 머스크, 데미스 하사비스와 만나는 게 자연스러운 다음 행보라는 거죠. 알트만은 그렇게 될 거라고 생각한다고 했어요. 비공개 회담은 미리 발표하지 않을 거라고 했는데, 결국 사실상 미리 발표한 셈이죠.
두 자릿수 재앙적 위험은 용납할 수 없다고 그는 말했다. 아직 공개되지 않은 모델들도 이미 매우 정확한데, 더 나은 감시 체계 없이는 더 나아가는 것은 무모해 보인다. 실제 협약과 의도적으로 유출된 분위기는 겉으로 보기에 똑같아 보일 수 있다.
직원들은 이미 내부적으로 이와 비슷한 내용을 들었습니다. 공개적으로는 아직 불분명한 상태입니다. 회의실이 성사되면 좋겠지만, 그렇지 않더라도 견적서는 제 역할을 다한 셈입니다.
샘 알트만은 다리오 아모데이의 속도 조절 요청에 동의하며, 오픈AI도 같은 방침을 따를 것이라고 밝혔습니다
에세이가 발표된 지 몇 시간 후, 알트만은 오픈아이언이 내장형 평가자 제공 약속을 이행할 것이라고 게시했습니다. 직원과 같은 접근 권한을 제공하는 것이죠. 자세한 내용은 곧 공개될 예정입니다. 머스크는 "다리오가 옳다"라는 세 마디를 남겼습니다. 세 명의 경쟁 CEO, 하나의 슬로건. 불안한 주말 분위기.
협력과 연극은 함께 갈 수 있다. 아모데이의 계획의 첫 단계는 이제 두 개의 거대 연구소가 공개적으로 동의하는 모습을 보였다. 허깅 페이스(바로 그 허깅 페이스!)는 평가자 프로그램에 참여하겠다고 요청했고, '오픈 얼라인먼트 이니셔티브'라는 것을 시작했다. 해킹 피해자들이 투명성을 보여주는 것이다. 시적인가, 아니면 의미심장한가.
참고로 말씀드리자면, 유럽에는 미국식 면제를 요청할 대상이 없습니다. 브뤼셀은 오래전에 개인 면제를 허용하지 않게 되었으니까요. 그러니 악수는 미국식이죠. 나머지는… 뭐, 그냥 어깨를 으쓱하는 정도입니다.
OpenAI는 오직 승리만을 원한다
주말 내내 인터뷰를 마친 수학자들은 축하할 분위기가 아닙니다. 약 1만 개의 에이전트와 수천만 달러 상당의 컴퓨팅 자원이 투입되어 88시간 동안 진행된 OpenAI의 나비에-스토크스 방정식 스프린트는 수학계 내부에서 보면 마치 트로피 사냥처럼 보입니다. 수학자들은 통찰력을 원하고, 연구소는 승리를 원한다고 끊임없이 말합니다.
트리스탄 버크마스터는 오픈아이얼이 인류학 연구소 소속 공동 연구자를 해고하는 조건으로 무제한 컴퓨팅 자원과 단독 저작권을 제안했다고 전했습니다. 그는 이를 뇌물이라고 생각했고 거절했습니다. 오픈아이얼 측은 버크마스터의 코덱스 관련 질문이 시스템에 영향을 미칠 수 없었다고 단언하지만, 그는 납득하지 못하고 있습니다. 안드레아스 톰은 챗GPT가 자신의 연구에 대해 나눈 대화가 이후 모델 구축에 영향을 미쳤을 가능성을 여전히 의심하고 있습니다. 이 사실은 오픈아이얼만이 알 수 있을 것이며, 그는 오픈아이얼조차도 그 사실을 모를 것이라고 생각합니다.
그리고 반전은 바로 이것입니다. 오픈AI는 또 다른 밀레니엄 프라이즈 문제에서 이미 상당한 진전을 이뤘다고 밝혔습니다. 어떤 문제인지는 밝히지 않았지만요. 어쨌든 클레이는 아직 커뮤니티의 승인을 받는 데 오랜 시간이 걸립니다. 그러니 아직 아무도 "우승"한 건 아닙니다. 그저 벌써 다음 문제를 향한 경쟁이 시작된 것뿐이죠. 참 흥미롭네요.
자주 묻는 질문
앤트로픽 CEO 다리오 아모데이는 인공지능 개발 속도를 어떻게 조절할 계획인가?
아모데이는 업계에 멈추는 것이 아니라 속도를 늦추라고 촉구하는 장문의 에세이를 발표했습니다. 그는 업계의 반복적인 자체 개선 속도가 감사 기관이 따라잡을 수 없을 정도로 빠르다고 주장했습니다. 첫 번째 단계는 안트로픽에 상주 평가자를 일방적으로 초청하여 배지, 책상, 노트북을 제공하고 홍보 필터 없이 조사 결과를 발표할 수 있도록 권한을 부여하는 것입니다. 그다음에는 민주적인 연구소들이 안전 기준을 조율하고, 궁극적으로는 권위주의 정부와 어떤 형태의 협약을 맺어야 한다고 주장합니다. 또한 안전 관련 논의 자체가 법적 문제가 되지 않도록 제한적인 반독점법 면제를 요구합니다.
샘 알트만은 왜 오픈아이얼이 올해 기업공개(IPO)를 하지 않을 것이라고 말했을까요?
단독 인터뷰에서 알트만은 현재 IPO는 안전 문제, 조직 정렬, 사회적 수용도 등이 아직 완료되지 않았기 때문에 시기상조라고 말했습니다. 그는 은행 관계자들이 관심을 보이고 있고 비공개 서류도 제출되었지만 올해는 IPO를 진행하지 않을 것이라고 확인했습니다. 그는 오픈AI가 비영리/영리 구조를 유지하는 것은 주주 이익에 명백히 부합하지 않는 결정을 내릴 수 있도록 하기 위한 것이라고 주장했습니다. 또한 그는 인간의 통제를 넘어선 AI 구축이 절대적으로 가능하며, 만약 그런 방향으로 나아가게 된다면 훈련을 일시 중단할 것이라고 밝혔습니다.
알트만이 다른 AI 연구소들과 안전 협약을 맺었음을 암시했나요?
같은 인터뷰에서 알트만은 아모데이, 머스크, 데미스 하사비스 같은 동료들과 비공개 회담이 있을 것으로 예상한다고 말하면서도, 회담에 대한 사전 발표는 거부했습니다. 그는 두 자릿수 재앙적 위험은 용납할 수 없으며, 아직 공개되지 않은 모델들도 이미 매우 정확한데 더 나은 모니터링 시스템 없이는 더 나아가는 것은 무모하다고 주장했습니다. 직원들은 이미 내부적으로 이와 비슷한 내용을 들었기 때문에, 이번 공개 발언은 최종 합의를 확정하는 것이라기보다는 향후 협력 방안을 미리 보여주는 것일 가능성이 높습니다.
OpenAI는 Anthropic의 내장형 평가 도구 약속을 따를 것인가?
아모데이의 에세이가 발표된 지 몇 시간 후, 알트만은 오픈아이언이 임베디드 평가자 약속에 상응하는 직원 수준의 접근 권한과 자세한 내용을 곧 제공할 것이라고 게시했습니다. 일론 머스크는 다리오의 말이 옳다고 언급하며, 세 명의 경쟁사 CEO가 비슷한 슬로건을 내세웠다고 지적했습니다. 허깅페이스는 평가자 프로그램 참여를 요청하며 오픈 얼라인먼트 이니셔티브를 시작했습니다. 유럽은 아모데이가 제안한 것과 같은 미국식 반독점 면제를 제공할 수 없기 때문에, 현재로서는 이러한 협력 관계는 주로 미국에 국한되어 있습니다.
수학자들이 OpenAI의 나비에-스토크스 알고리즘 스프린트를 비판하는 이유는 무엇일까요?
수학자들은 OpenAI가 약 1만 개의 에이전트를 이용해 88시간 동안 진행한 나비에-스토크스 방정식 시뮬레이션을 통찰력보다는 승리를 우선시하는 트로피 사냥에 비유했습니다. 트리스탄 버크마스터는 OpenAI가 인류학 연구소 소속 협력자를 제외하면 무제한 컴퓨팅 자원과 단독 저작권을 제공하겠다고 제안했지만, 이를 뇌물로 간주하고 거절했습니다. OpenAI는 버크마스터의 코덱스 프롬프트가 시스템에 영향을 미치지 않았다고 주장하지만, 그는 여전히 납득하지 못하고 있습니다. 안드레아스 톰은 ChatGPT가 자신의 연구에 대해 나눈 대화가 이후 모델 발전에 영향을 미쳤는지 여부를 계속해서 추궁하고 있습니다.
OpenAI가 또 다른 밀레니엄 프라이즈 문제에서 진전을 보였다고 주장했나요?
OpenAI는 또 다른 밀레니엄상 문제에서 상당한 진전을 이뤘다고 밝혔지만, 구체적인 문제는 공개하지 않았습니다. 클레이 수학 연구소는 여전히 오랜 기간의 커뮤니티 승인 기간을 요구하기 때문에 아직 공식적인 수상자는 없습니다. 하지만 업계 내부에서는 이러한 비밀주의와 앞서 벌어진 나비에-스토크스 방정식 경쟁으로 인해 각 연구소들이 이미 차기 트로피를 향해 질주하고 있다는 분위기가 감돌고 있습니다. 더 버지(The Verge)의 인터뷰는 이러한 긴장감을 수학자들이 통찰력을 얻고 싶어 하는 반면 OpenAI는 수상을 원한다는 구도로 묘사하고 있습니다.