소식통에 따르면 트럼프 고문들은 AI 업체들에게 가중치가 개방된 모델에 대한 안전성 테스트를 실시하지 않을 것이라고 통보했다고 합니다 ↗
트럼프 행정부는 주요 AI 기업들에게 개방형 가중치 모델에 대한 안전성 테스트를 실시하지 않겠다고 통보했다고 관계자들이 전했습니다. 이는 위험 평가의 상당히 중요한 부분이 정부의 감독 범위에서 제외된다는 것을 의미합니다.
실제로 개발자와 사용자는 모델 출시 또는 배포 전에 모델을 평가하는 데 더 많은 책임을 져야 할 수도 있습니다. 혁신에 도움이 될 수는 있겠지만, 오픈 소스 모델의 기능이 빠른 속도로 향상되고 있는 시점이므로 시기적으로는 적절하지 않습니다. (로이터)
개방형 가중치 AI 모델은 최첨단 기술을 따라잡고 있지만, 안전성 격차는 여전히 존재합니다. ↗
Z.ai의 GLM-5.2는 사이버 및 생물학적 역량 면에서 선도적인 폐쇄형 모델에 비해 불과 몇 달 정도 뒤처져 있는 것으로 알려져 있습니다. SaferAI의 테스트 결과, GLM-5.2는 제시된 공격적인 사이버 작업이나 이중 용도 생물학적 작업 중 어느 것도 거부하지 않았습니다.
폐쇄형 모델은 거부 학습, 분류기 및 API 제어에 의존할 수 있습니다. 다운로드 가능한 가중치는 완전히 다른 유형입니다. 일단 공개되면 안전장치를 변경하거나 제거할 수 있어 안전장치 간의 격차가 매우 커집니다. (TechCrunch)
삼성전자, 차세대 AI 메모리 기술 출시 ↗
삼성은 400개 이상의 레이어와 새로운 웨이퍼 본딩 설계를 적용한 BV-NAND 프로토타입을 공개했습니다. 삼성은 이 프로토타입이 이전 세대보다 메모리 밀도가 약 58% 향상되었으며, 읽기, 쓰기 및 입출력 성능 또한 개선되었다고 밝혔습니다.
삼성은 또한 AI 가속기 위에 수직으로 쌓인 zHBM 메모리를 소개했습니다. 삼성은 이 아키텍처가 기존 HBM5보다 10배 이상의 메모리 밀도, 3배의 에너지 효율, 그리고 훨씬 낮은 열 저항을 제공할 수 있다고 주장합니다. 이는 상당히 주목할 만한 기술입니다. (로이터)
AI 데이터센터 경쟁 심화로 빅테크 기업들이 1조 달러 규모의 임대료 부담에 직면 ↗
마이크로소프트, 메타, 오라클, 아마존, 알파벳은 대부분 AI 데이터 센터를 위해 아직 시작되지도 않은 임대 계약에 약 1조 900억 달러를 투자하기로 약정했습니다. 이러한 약정액은 이들 기업의 인식된 임대 부채의 거의 네 배에 달합니다.
이러한 용량은 차세대 클라우드 붐을 촉발할 수 있습니다. 하지만, 다소 부정적으로 보자면, AI 수요가 예상보다 저조할 경우 기업들은 막대한 시설에 대한 비용을 지불해야 할 수도 있습니다. 마치 날씨도 확인하지 않고 1조 달러짜리 외투를 사버린 것과 같은 상황이 될 수 있습니다. (로이터)
Anthropic, AI 클라우드 스타트업 Volta와 100억 달러 규모 계약 체결 ↗
보도에 따르면, 앤트로픽은 AI 클라우드 스타트업 볼타로부터 6년에 걸쳐 100억 달러 규모의 컴퓨팅 용량을 구매하기로 합의했다. 이 계약은 133메가와트 규모의 용량을 제공하는 노르웨이 데이터 센터를 지원할 예정이다.
암호화폐 채굴 회사 비트디어(Bitdeer)가 엔비디아의 베라 루빈(Vera Rubin) 시스템을 사용하는 이 시설 개발을 지원할 것으로 예상됩니다. 앤트로픽(Anthropic)은 마치 냉장고 자석처럼 컴퓨팅 파트너십을 모으고 있는데, 이 자석들은 수십억 달러에 달하는 비용이 듭니다. (테크크런치)
세계은행, 인공지능(AI)이 신흥 경제국에 '생명줄' 제공한다고 밝혀 ↗
세계은행은 인공지능(AI)이 개발도상국 경제가 전력, 연결성, 디지털 기술을 개선한다면 100년에 걸친 발전을 단 10년 만에 이뤄낼 수 있도록 해줄 것이라고 밝혔습니다. 규모가 작고 지역 실정에 맞춘 도구들을 활용하면 거대한 국가 모델 없이도 의료, 교육, 농업, 공공 서비스 분야를 지원할 수 있을 것입니다.
이 보고서는 저소득 및 중소득 국가의 일자리 중 4.5%가 생성형 AI의 영향을 받는 반면, 선진국에서는 14.2%에 달한다고 추산합니다. 그럼에도 불구하고, 이러한 가능성은 불평등, 허위 정보, 정치적 억압에 대한 날카로운 경고와 함께 나타나며, 마치 여러 매듭이 얽힌 생명줄과 같습니다. (로이터)
자주 묻는 질문
미국 정부는 왜 개방형 가중치 AI 모델에 대한 안전성 테스트를 실시하지 않는 것일까요?
기사에 따르면 트럼프 행정부는 주요 AI 기업들에게 개방형 가중치 모델은 정부 안전성 테스트 프레임워크에 포함되지 않을 것이라고 통보했습니다. 이는 모델 개발자, 배포자 및 사용자에게 더 큰 책임을 지우는 것으로, 이들은 이러한 시스템을 출시하거나 도입하기 전에 사이버, 생물학적, 오용 및 배포 위험을 독립적으로 평가해야 할 수도 있습니다.
개방형 AI 모델이 폐쇄형 모델보다 보안이 더 어려운 이유는 무엇일까요?
오픈 웨이트 AI 모델은 개발자의 인프라 외부에서 다운로드, 수정 및 운영이 가능합니다. 따라서 학습 거부, 분류기 및 접근 제어와 같은 안전장치가 약화되거나 제거될 수 있습니다. 반면, 클로즈드 모델은 일반적으로 제어된 API를 통해 제공되므로, 서비스 제공업체는 배포 후 사용량을 모니터링하고, 접근을 제한하며, 보호 기능을 업데이트할 수 있는 더 큰 재량권을 갖습니다.
조직은 개방형 가중치 AI 모델을 배포하기 전에 어떻게 평가해야 할까요?
일반적인 접근 방식은 사이버 공격, 이중 용도 생물학적 제제 요청, 보안 조치 우회 시도 등 현실적인 오용 시나리오를 바탕으로 모델을 테스트하는 것입니다. 또한 조직은 모델 호스팅 방식, 모델 수정 권한, 사용 가능한 모니터링 시스템 등을 검토해야 합니다. 위험도가 높은 환경에는 일반적으로 더욱 엄격한 접근 제어와 지속적인 인적 관리 감독이 필요합니다.
삼성의 새로운 AI 메모리 기술은 무엇을 개선하기 위해 설계되었습니까?
삼성의 BV-NAND 프로토타입은 400개 이상의 레이어와 웨이퍼 본딩 설계를 사용하여 메모리 밀도를 높이는 동시에 읽기, 쓰기 및 입출력 성능을 향상시켰습니다. 또한 삼성은 AI 가속기 위에 수직으로 적층된 zHBM 메모리를 배치하는 방안도 설명했습니다. 이러한 설계는 점점 더 집약적인 AI 워크로드로 인해 발생하는 용량, 에너지 및 발열 문제를 해결하기 위한 것입니다.
빅테크 기업의 AI 데이터센터 임대가 재정적 위험으로 간주되는 이유는 무엇일까요?
마이크로소프트, 메타, 오라클, 아마존, 알파벳은 아직 시작되지 않은 임대 계약에 약 1조 900억 달러를 투자한 것으로 알려졌으며, 이 중 상당 부분은 AI 데이터 센터와 관련이 있습니다. 이러한 추가 용량은 클라우드 및 AI 수요의 급속한 증가를 뒷받침할 수 있습니다. 그러나 수요 증가 속도가 예상보다 느리거나 인프라 활용도가 낮을 경우, 기업들은 여전히 상당한 금액을 지불해야 할 수도 있습니다.
인공지능은 신흥 경제에 어떤 이점을 가져다줄 수 있을까요?
세계은행은 인공지능(AI)이 개발도상국 경제가 의료, 교육, 농업 및 공공 서비스를 강화하는 데 도움이 될 수 있으며, 특히 지역적 필요에 맞춘 소규모 도구를 통해 이러한 효과를 얻을 수 있다고 주장합니다. 이러한 이점은 안정적인 전력 공급, 인터넷 접근성 및 디지털 기술에 달려 있습니다. 또한 정부는 AI 도입이 확대됨에 따라 불평등, 허위 정보 및 정치적 억압과 같은 위험을 관리해야 합니다.