SpaceX의 Cursor 인수 이후 우리의 결정 ↗
오픈아이(OpenAI)는 스페이스X(SpaceX)의 커서(Cursor) 인수 이후 커서에 모델을 공급하는 계약을 종료할 것이라고 밝혔습니다. 오픈아이는 스페이스X가 자사의 기술을 계약 조건에 맞게 사용할 것이라는 확신을 더 이상 가질 수 없다고 설명했습니다.
OpenAI는 향후 Cursor에 모델을 제공하지 않겠다고 밝혔습니다. 이는 특히 Cursor와 OpenAI 모델을 거의 기본 코딩 스택으로 사용해 온 개발자들에게는 상당히 의미 있는 균열입니다. (OpenAI)
중국 텐센트, 코딩 및 연구 작업용 새로운 오픈소스 AI 모델 공개 ↗
텐센트는 소프트웨어 엔지니어링, 연구 및 금융 분석을 위한 오픈 소스 모델인 Hy4의 프리뷰 버전을 공개했습니다. Hy4는 총 7700억 개의 매개변수를 가진 전문가 혼합형 아키텍처를 사용하며, 각 텍스트 요청에 대해 약 490억 개의 매개변수를 활성화합니다.
텐센트는 이 기능을 코드버디(CodeBuddy)와 워크버디(WorkBuddy)를 포함한 여러 제품에 도입할 계획입니다. 회사 측은 이 미리보기 기능이 복잡한 질문에 대해 지나치게 분석하고 자체 검증을 너무 열정적으로 하는 경향이 있다고 인정했습니다. (로이터)
자동화된 연구 도구는 정렬 오류를 안정적으로 완화할 수 있습니다 ↗
Anthropic은 Claude가 기만, 탈옥, 아첨을 포함한 10가지 정렬 실패 범주에 걸쳐 자율적으로 연구를 검색하고, 훈련 기법을 제안하고, 실험을 실행하고, 모델을 개선하는 모습을 보여주었습니다.
가장 강력한 방법들은 Anthropic이 측정한 성능을 저하시키지 않으면서 목표로 삼은 모든 벤치마크를 개선했으며, 일부 방법은 최대 4.7배 더 큰 모델에도 적용되었습니다. 또한 Claude의 자동화된 연구원은 연구 설정에서 경험 많은 인간 안전 연구원들의 제안보다 우수한 성능을 보였습니다.
물론 함정이 있습니다. Anthropic은 자동화된 연구 실행 중 극히 일부에서만 부정행위를 감지했으며, 자사의 벤치마크는 실제 정렬 조건의 극히 일부분만을 다루고 있다고 강조합니다. 그러니까… AI가 AI 연구자를 감시하면서 스스로 개선되는 AI 연구라니, 아주 흔한 일이죠. (Anthropic)
법원은 트럼프 행정부가 앤스로픽을 불법적으로 블랙리스트에 올렸다고 판결했습니다 ↗
연방 판사는 국방부가 앤트로픽을 공급망 위험 요소로 블랙리스트에 올린 결정이 위헌이라고 판결하면서, 해당 조치를 불법적인 보복 행위이자 자의적이고 변덕스러운 지정이라고 지적했습니다.
이번 분쟁은 앤트로픽이 미국인에 대한 대규모 감시나 인간의 감독 없이 작동하는 자율 살상 무기에 자사 AI를 사용하는 것에 대한 제한을 철회하기를 거부하면서 시작되었습니다. 이번 판결은 앤트로픽에게 중대한 승리이며, 정부가 AI 공급업체가 자체 안전 기준을 설정한 것에 대해 제재를 가할 수 있는지 여부를 둘러싼 논쟁에 있어 상당히 날카로운 선례가 될 것입니다. (더 버지)
기계시대 펀드 ↗
앤드리슨 호로위츠는 AI 기반 물리적 인프라(칩, 메모리, 네트워킹, 스토리지, 데이터 센터, 로봇 공학, 심지어 가정용 AI 하드웨어까지)에 초점을 맞춘 새로운 '머신 에이지 펀드'를 위해 11억 달러를 모금했습니다.
핵심 주장은 AI의 다음 병목 현상이 또 다른 똑똑한 챗봇 기능이 아니라 물리적 문제라는 것입니다. 전력, 냉각, 메모리 대역폭 및 네트워킹 모두 엄청나게 빠른 속도로 확장되어야 하며, a16z는 이러한 하드웨어 시장에 진출하고자 합니다. (앤드리슨 호로위츠)
구글은 AI 모드 아래에서 검색 결과를 더욱 숨겨버립니다 ↗
구글은 일부 검색어에 대해 AI 개요를 자동으로 확장하기 시작했습니다. 기존 방식처럼 짧은 요약과 바로 연결되는 링크 대신, 사용자는 AI가 제공하는 전체 답변과 "무엇이든 물어보세요" 상자를 먼저 확인한 후에야 익숙한 웹 검색 결과를 볼 수 있습니다.
구글은 자사 시스템이 특히 유용하다고 판단할 때 확장된 사용자 경험을 제공한다고 밝혔습니다. 하지만 출판사 입장에서는 불편한 점이 분명합니다. 일반 링크는 페이지 하단으로 더욱 밀려나고, 구글의 AI를 우회하는 것은 점점 더 어려워지고 있습니다. (더 버지)
자주 묻는 질문
SpaceX의 Cursor 인수 이후 OpenAI가 Cursor와의 모델 계약을 종료하는 이유는 무엇인가요?
OpenAI는 SpaceX가 자사의 기술을 OpenAI의 이용 약관에 따라 사용할 것이라는 확신이 더 이상 없기 때문에 Cursor에 대한 모델 접근 권한을 단계적으로 축소할 계획이라고 밝혔습니다. 또한 향후 OpenAI 모델은 Cursor에 제공되지 않을 것이라고 덧붙였습니다. 개발자들에게 있어 이는 Cursor와 OpenAI 모델을 함께 사용하는 기존 코딩 워크플로에 변화를 가져올 수 있습니다.
텐센트 HY4는 무엇이며, 어떤 용도로 설계되었습니까?
텐센트 Hy4는 소프트웨어 엔지니어링, 연구 및 금융 분석을 위해 개발된 오픈 소스 AI 모델입니다. 프리뷰 버전은 총 7,700억 개의 매개변수를 사용하는 혼합형 전문가 아키텍처를 채택하고 있으며, 각 텍스트 요청에 대해 약 490억 개의 매개변수를 활성화합니다. 텐센트는 Hy4를 CodeBuddy와 WorkBuddy를 포함한 여러 제품에 통합할 계획이지만, 프리뷰 버전이 복잡한 질문에 대해 과도하게 분석하거나 검증하는 경향이 있을 수 있다고 밝혔습니다.
AI 연구자들이 모델 정렬을 자동으로 개선할 수 있을까요?
Anthropic의 연구에 따르면 자동화된 AI 연구원들은 여러 유형의 정렬 실패를 줄이는 기술을 식별하고 테스트할 수 있습니다. Claude는 기존 연구를 검색하고, 훈련 접근 방식을 제안하고, 실험을 실행하고, 기만, 탈옥, 아첨과 같은 영역에서 개선 사항을 평가하는 데 사용되었습니다. Anthropic은 또한 일부 성공적인 기술이 더 큰 모델로 전이될 수 있음을 발견했지만, 이 연구는 제한된 범위의 실제 정렬 조건만을 다루었습니다.
법원은 왜 앤트로픽이 불법적으로 블랙리스트에 올랐다고 판결했을까요?
연방 판사는 미 국방부가 앤트로픽을 공급망 위험 요소로 지정한 것은 위헌적이고 자의적이며 변덕스러운 조치라고 판결했습니다. 이번 분쟁은 앤트로픽이 미국인에 대한 대규모 감시 및 인간의 감독 없이 작동하는 자율 살상 무기와 관련된 제한 조치를 해제하기를 거부하면서 발생했습니다. 이 판결은 향후 정부가 인공지능 기업이 자체 안전 제한 조치를 유지하는 것을 이유로 제재할 수 있는지 여부를 둘러싼 분쟁에서 중요한 참고 자료가 될 수 있습니다.
a16z는 왜 AI 인프라에 11억 달러를 투자하는 걸까요?
앤드리슨 호로위츠는 인공지능의 확장에 필요한 물리적 시스템에 투자하기 위해 11억 달러 규모의 머신 에이지 펀드를 조성했습니다. 이 펀드는 칩, 메모리, 네트워킹, 스토리지, 데이터 센터, 로봇 공학 및 가정용 AI 하드웨어에 중점을 둡니다. 이 펀드의 설립은 미래의 발전이 소프트웨어 모델 개선뿐만 아니라 전력, 냉각, 대역폭 및 컴퓨팅 인프라에 달려 있을 수 있다는 더 넓은 AI 뉴스 트렌드를 반영합니다.
구글 AI 개요는 기존 검색 결과를 어떻게 변화시키고 있을까요?
구글은 일부 검색어에 대해 AI 개요를 자동으로 확장하여, 기존 웹 검색 결과보다 더 완벽한 AI 생성 답변과 "무엇이든 물어보세요" 인터페이스를 먼저 표시합니다. 이는 일반 링크가 이전보다 페이지 하단에 나타날 수 있음을 의미합니다. AI 관련 소식을 주시하는 퍼블리셔와 SEO 팀에게 이러한 변화는 검색 가시성, 추천 트래픽, 그리고 사용자가 원본 출처를 찾는 방식과 관련하여 실질적인 질문을 제기합니다.