🇬🇧 인공지능에 대한 과감한 투자로 영국은 의료에서부터 더 나은 공공 서비스에 이르기까지 과학 및 연구 분야에서 혁신을 선도하며 선두 자리를 유지할 것입니다 ↗
영국의 주요 공공 연구 자금 지원 기관인 UKRI는 첫 번째 AI 전용 전략을 발표했는데, 이는 연구에 AI를 더 많이 활용하고, AI 관련 기술을 더 많이 습득하고, AI 인프라를 더 확충하는 등 AI의 모든 측면을 아우르는 전략을 담고 있습니다.
이 계획은 인공지능 분야에 상당한 자금을 투자할 뿐만 아니라, 케임브리지 대학의 DAWN 슈퍼컴퓨터 업그레이드 및 "과학을 위한 인공지능" 연구 지원(예상대로 신약 개발이 언급됨)과 같은 구체적인 투자도 포함합니다. 마치 "기본적인 연구를 수행하되, 실질적인 결과물을 내놓아야 한다"는 분위기이거나, 아슬아슬한 줄타기, 혹은 둘 다인 것처럼 느껴집니다.
🛡️ OpenAI와 마이크로소프트, AI 개발 보호를 위한 영국의 국제 연합에 합류 ↗
OpenAI와 마이크로소프트는 영국 AI 보안 연구소의 얼라인먼트 프로젝트에 새로운 자금을 지원하기로 약속했습니다. 독립적인 얼라인먼트 연구를 위한 자금 규모가 커졌으며, 두 기관은 이를 단순한 기술 경쟁이 아닌 신뢰 구축의 일환으로 보고 있습니다.
여기서 중요한 점은 구조입니다. 국제 연합, 다수의 자금 지원 기관, 그리고 여러 국가에 걸쳐 배포되는 보조금입니다. 이는 "한 연구실의 비법"에 기반한 협력이 아니라 "생태계로서의 협력"을 의미합니다. 물론 비법의 대부분은 여전히 연구실에 있지만 말입니다.
🧠 AI 정렬에 대한 독립적인 연구를 발전시키다 ↗
OpenAI는 영국 AISI 정렬 프로젝트에 750만 달러를 지원했는데, 이 자금은 특히 최첨단 연구소 외부에서 안전/정렬 작업을 수행하는 독립 팀을 대상으로 합니다.
핵심은 꽤 직설적입니다. 최첨단 연구소는 모델 접근 권한을 활용한 협력을 강화할 수 있지만, 해당 분야에는 외부인들의 독창적이고 다양하며 서로 연관성이 없는 아이디어도 필요하다는 것입니다(그들의 표현은 좀 더 완곡하지만, 무슨 말인지 알 수 있습니다). 또한, 그 모든 것에는 "반복적인 배포"라는 세계관이 깔려 있는 듯합니다. 출시하고, 배우고, 개선하고… 반복하는 것이죠. 적어도 그렇게 보입니다.
💳 재무부는 금융 부문에서 인공지능 활용을 위한 두 가지 새로운 자료를 발표했습니다 ↗
미국 재무부는 금융 분야에 실용적인 두 가지 도구를 발표했습니다. 하나는 공통 AI 용어집(이를 통해 모든 사람이 단어의 의미를 놓고 논쟁하는 것을 멈출 수 있음)이고, 다른 하나는 NIST의 접근 방식을 은행업계의 현실에 맞게 적용한 금융 서비스 AI 위험 관리 프레임워크입니다.
이 문서는 위험 기반 거버넌스를 기반으로 하며, 규정 준수 팀, 규제 기관 및 공급업체가 각자 독자적인 정의를 만들어낼 필요 없이 활용할 수 있도록 충분한 세부 정보를 제공합니다. 평범해 보이지만, 승인 과정을 조용히 좌우하는 강력한 문서이며, 마치 서류 캐비닛에 보관되어 있는 문서처럼 그 자체로 큰 영향력을 발휘합니다.
🪖 미 국방부 최고기술책임자(CTO)는 앤트로픽이 클로드 AI의 군사적 사용을 제한하는 것은 '민주적이지 않다'고 말했다 ↗
미 국방부의 한 기술 책임자는 앤트로픽이 클로드(Claude)의 군사적 사용을 제한한 것에 대해 공개적으로 반발하며, 단일 기업이 법과 규정을 넘어 추가적인 규칙을 정하는 것은 "비민주적"이라고 비판했습니다.
이는 여러 선도적인 기업들이 군사적 맥락에 맞춰 인공지능 기술을 맞춤화하는 국방 계약을 따내기 위해 경쟁하는 더 큰 혼란 속에서 벌어지는 일입니다. 여기서 마찰의 핵심은 예상대로 기업의 사용 정책과 정부의 실제 활용 의지 사이의 차이입니다. 마치 악수가 사진 촬영 도중 팔씨름으로 변하는 것 같은 느낌입니다.
자주 묻는 질문
UKRI의 AI 전략은 무엇이며, 왜 중요한가요?
UKRI의 첫 번째 AI 전용 전략은 연구 파이프라인에 AI를 더욱 적극적으로 도입해야 한다는 점을 강조합니다. 여기에는 필요한 기술, 인프라 및 실질적인 배포가 포함됩니다. 전략의 핵심은 "기본적인 연구를 수행하는 동시에 실질적인 성과를 내야 한다"는 것으로, 연구 투자를 공익에 실질적인 이점으로 전환해야 한다는 압박을 시사합니다. 또한 자금 지원 모델뿐 아니라 컴퓨팅 자원, 인력, 그리고 실질적인 도입 경로까지 아우르는 포괄적인 접근 방식을 제시합니다.
케임브리지 대학의 DAWN 슈퍼컴퓨터를 업그레이드하면 실제로 어떤 이점이 있을까요?
케임브리지 대학의 DAWN 슈퍼컴퓨터 업그레이드는 영국 연구계 전반에 걸쳐 더욱 야심찬 AI 연구를 지원하는 인프라 구축 사업으로 평가받고 있습니다. 실질적으로 이는 소규모 시스템에서는 효율적으로 수행하기 어려운 훈련, 평가 및 대규모 실험을 위한 용량 증대를 의미합니다. 많은 연구 과정에서 강력한 공유 컴퓨팅 환경은 대학 내 병목 현상을 완화하고 프로토타입 개발부터 발표 및 검증 가능한 결과에 이르기까지의 과정을 가속화합니다.
영국 인공지능 전략의 맥락에서 "과학을 위한 인공지능"은 무엇을 의미하는가?
"과학을 위한 AI"는 AI 기술을 활용하여 발견을 가속화하는 것을 목표로 하며, 특히 신약 개발이 명시적으로 언급됩니다. 실제로 이는 가설 생성, 방대한 설계 공간 탐색, 실험 우선순위 설정 등에 AI를 사용하는 것을 포함합니다. 이러한 강조점은 학계를 넘어 새로운 방법론, 단축된 연구 주기, 의료 및 공공 서비스와 연계된 응용 분야 등 다양한 분야에서의 활용 가능성을 시사합니다.
영국 AI 보안 연구소의 협력 프로젝트는 무엇이며, 누가 자금을 지원하고 있습니까?
영국 AI 보안 연구소의 얼라인먼트 프로젝트는 여러 자금 지원 기관이 참여하는 독립적인 얼라인먼트 연구를 지원하는 국제 연합 구조로 설명됩니다. 오픈AI와 마이크로소프트는 신뢰 구축 및 생태계 지원이라는 명목으로 새로운 자금을 지원하는 것으로 강조됩니다. 이 모델은 "생태계로서의 얼라인먼트"를 지향하며, 연구 자금이 특정 연구소에 집중되는 것이 아니라 여러 국가의 연구팀에 분산되도록 설계되었습니다.
OpenAI는 왜 독립적인 AI 정렬 연구에 750만 달러를 투자했을까요?
OpenAI는 최첨단 연구소들이 딥 모델 접근에 기반한 안전성 확보 작업을 수행하는 동안, 독립적인 팀들은 연구소들이 놓칠 수 있는 다양하고 상호 연관되지 않은 아이디어를 제공할 수 있다는 논리를 내세웠습니다. 핵심은 "한 연구소의 비밀 기술"에만 의존하는 것을 넘어 분야를 확장하는 것입니다. 또한, 이 글에서는 "반복적인 배포"라는 관점을 암시하고 있습니다. 즉, 배포하고, 배포 피드백을 통해 학습하고, 시스템을 강화한 다음, 이 과정을 반복하는 것입니다.
미국 재무부의 AI 자원은 금융 부문 AI 거버넌스에 어떤 영향을 미칠까요?
미국 재무부는 NIST 방식의 사고방식을 적용한 금융 서비스 AI 위험 관리 프레임워크와 공통 AI 용어집을 발표했습니다. 이는 AI 정의의 모호함을 줄이고 규정 준수 팀, 규제 기관 및 공급업체에게 공통된 지침을 제공하기 위한 것입니다. 많은 조직에서 이러한 문서는 통제, 문서화 및 위험 기반 의사 결정에 대한 기대치를 표준화하기 때문에 실제 승인 과정에 큰 영향을 미칩니다.