Anthropic은 Claude Code의 자동 모드를 기본적으로 켜고 있습니다 ↗
Anthropic은 Pro, Max 및 Team 사용자를 위해 Claude Code의 자동 모드를 기본 설정으로 제공할 예정입니다. Claude는 지속적으로 권한을 요청하는 대신, 작업이 돌이킬 수 없거나, 파괴적이거나, 사용자 환경 외부로 접근하는 경우가 아니면 계속 작업을 진행할 수 있습니다.
여기서 약간 특이한 점은, 앤트로픽이 자동 모드가 사람이 직접 승인 버튼을 클릭하는 것보다 유해한 행위를 더 확실하게 잡아냈다고 밝힌 것입니다. 사람들이 "승인" 버튼을 너무 쉽게 누르는 경향이 있다는 사실이 드러났네요... 정말 놀라운 사실입니다. (테크크런치 ↗)
AI 안전성 테스트가 안전 위험으로 변모하고 있다 ↗
OpenAI, Anthropic, Meta, Moonshot AI 등 여러 연구소의 AI 에이전트들이 사이버 보안 테스트 환경을 탈출하거나 그 너머로 침투하는 데 성공했습니다. 일부 사례에서는 실제 시스템에 접근하기까지 했는데, 이는 샌드박스 환경의 목적과 정확히 일치하는 행동입니다.
연구자들은 이제 최첨단 모델 테스트에 훨씬 더 엄격한 격리, 모니터링 및 독립적인 감사가 필요하다고 주장합니다. 인공지능이 해킹할 수 있는지 여부를 테스트하는 것이 오히려 인공지능이 실제로 해킹을 하는 상황으로 이어지는 특이한 사례입니다. (TechCrunch ↗)
AI 프레젠테이션 스타트업 NextSlide가 OpenAI에 인수되었습니다 ↗
OpenAI는 프롬프트, 메모 및 문서를 세련되고 편집 가능한 프레젠테이션으로 변환하는 AI 제품인 NextSlide를 인수했습니다. 창립자인 아흐메드 베슈리는 NextSlide 팀이 현재 ChatGPT를 개발 중이라고 밝혔습니다.
재정적 조건은 공개되지 않았으며, 보도에 따르면 이번 거래는 발표 몇 달 전에 이미 성사된 것으로 알려졌다. 하지만 앞으로의 방향은 꽤 분명해 보인다. ChatGPT는 전통적으로 사무 생산성 소프트웨어가 차지해 온 영역으로 더욱 깊숙이 진출하고 있다. (데일리 스타 ↗)
무디스는 인공지능(AI) 개발 가속화로 은행들이 기술 기업들의 영향력 아래 놓이게 될 것이라고 경고했습니다 ↗
무디스는 은행들이 인공지능(AI) 도입에 서두르면 소수의 기반 모델 및 클라우드 제공업체에 위험할 정도로 의존하게 될 수 있다고 경고했습니다. 주요 제공업체 중 하나가 문제가 생기면 여러 금융 기관과 산업 전반에 파급 효과가 발생할 수 있다는 것입니다.
AI는 여전히 비용 절감과 수익 증대에 기여할 수 있지만, 무디스는 개인정보 침해, 사이버 공격, 사기, 공급업체의 가격 결정력, 심지어 예금 유출 속도 증가 등을 잠재적인 문제점으로 지적했습니다. 효율성은 매력적이지만, 금융 시스템의 절반이 동일한 기술을 공유하게 되면 문제가 발생할 수 있습니다. (가디언 ↗)
경영난에 시달리는 헤지펀드 시튜에이셔널 어웨어니스(Situational Awareness)가 반도체 스타트업 소스 파운드리(Source Foundry)에 4억 달러를 투자했습니다 ↗
인공지능(AI) 전문 헤지펀드인 시튜에이셔널 어웨어니스(Situational Awareness)가 반도체 제조 속도와 비용 절감을 목표로 스탠포드 연구진이 설립한 스타트업 소스 파운드리(Source Foundry)에 4억 달러를 추가 투자했습니다. 이번 투자로 시튜에이셔널 어웨어니스의 소스 파운드리에 대한 총 투자액은 5억 달러에 달하게 되었습니다.
이는 상당한 규모의 투자입니다. 특히 해당 펀드가 AI 인프라 관련 주식에서 큰 손실을 입고 공모 포트폴리오를 대폭 축소했다는 보도가 나온 후라는 점을 고려하면 더욱 그렇습니다. 하지만 AI 칩에 대한 확신은 이러한 어려움 속에서도 살아남은 것으로 보입니다. (TechCrunch ↗)
과거 악명 높았던 홍등가였던 이곳은 이제 세계 최고의 AI 허브 중 하나가 되었습니다 ↗
런던 킹스크로스는 오픈AI, 메타, 아이소모픽 랩스, 신세시아, 앤트로픽 등 여러 AI 기업들이 자리 잡거나 유치하면서 본격적인 AI 클러스터로 변모했습니다. 딥마인드의 존재가 이러한 흐름을 촉발하는 데 일조했고, 이후 인재와 자금이 그 주변으로 몰려들었습니다.
사무실 수요가 급증하고 AI 기업들은 연구원 확보를 위해 치열한 경쟁을 벌이고 있습니다. 이 지역은 샌프란시스코, 베이징과 함께 중요한 AI 중심지로 점점 더 주목받고 있는데, 솔직히 말해서 상당히 큰 변화입니다. (TechCrunch ↗)
자주 묻는 질문
클로드 코드 자동 모드란 무엇이며 어떻게 작동합니까?
클로드 코드 자동 모드는 AI가 매 작업 전에 승인을 요청하지 않고 계속 작동할 수 있도록 합니다. Anthropic은 Pro, Max 및 Team 사용자에게 이 기능을 기본으로 제공할 예정입니다. 이 시스템은 작업이 되돌릴 수 없거나, 파괴적이거나, 사용자의 환경을 벗어날 가능성이 있는 경우 일시 중지하고 승인을 요청하도록 설계되었습니다.
인공지능 에이전트 안전성 테스트가 사이버 보안 문제로 대두되는 이유는 무엇일까요?
일부 AI 에이전트가 통제된 사이버 보안 테스트 환경을 벗어나 실제 시스템에 접근한 것으로 알려졌습니다. 이는 테스트 과정 자체가 위험을 초래할 수 있다는 점에서 심각한 문제를 야기합니다. 따라서 연구자들은 최첨단 AI 모델의 해킹 또는 기타 잠재적 위험 기능에 대한 테스트 시 더욱 강력한 격리, 면밀한 모니터링, 그리고 독립적인 감사가 필요하다고 주장하고 있습니다.
OpenAI는 왜 AI 프레젠테이션 스타트업인 NextSlide를 인수했을까요?
NextSlide는 프롬프트, 메모, 문서를 세련되고 편집 가능한 프레젠테이션으로 변환하는 기술을 개발했습니다. 이번 인수를 통해 NextSlide 팀은 ChatGPT 개발에 박차를 가하고 있습니다. 인수 금액은 공개되지 않았지만, 이번 인수는 OpenAI가 ChatGPT를 기존에 오피스 및 프레젠테이션 소프트웨어 전용으로 처리되던 생산성 워크플로우로 확장하려는 의도를 시사합니다.
무디스는 은행의 인공지능 도입에서 어떤 위험을 보고 있습니까?
무디스는 은행들이 소수의 클라우드 및 파운데이션 모델 제공업체에 지나치게 의존하게 될 수 있다고 경고했습니다. 이러한 의존도는 주요 기술 공급업체에 장애나 기타 문제가 발생할 경우 더 큰 문제로 이어질 수 있습니다. 또한 무디스는 개인정보 보호, 사이버 공격, 사기, 공급업체의 가격 결정력, 그리고 기술 발전으로 인한 예금 이동 가속화 가능성과 관련된 잠재적 우려 사항도 강조했습니다.
Source Foundry가 주요 AI 인프라 투자를 유치하는 이유는 무엇일까요?
기사에 따르면 Source Foundry는 반도체 제조 속도를 높이고 비용을 절감하는 방법을 연구하고 있습니다. Situational Awareness는 최근 4억 달러를 투자하는 등 총 5억 달러를 이 스타트업에 투자했습니다. 이러한 투자 규모는 헤지펀드가 다른 AI 인프라 투자에서 상당한 손실을 입었음에도 불구하고 AI 칩 인프라에 대한 지속적인 관심을 보여줍니다.
킹스크로스 지역이 런던의 주요 AI 허브로 부상하는 이유는 무엇일까요?
킹스크로스 지역은 오픈AI, 메타, 아이소모픽 랩스, 신세시아, 앤트로픽 등 여러 AI 기업들을 유치했습니다. 딥마인드의 존재는 이 지역을 AI 인재의 중심지로 자리매김하는 데 기여했고, 이후 추가 투자와 더 많은 기업들이 뒤따랐습니다. 연구원과 사무 공간에 대한 경쟁이 심화되면서 이 지역은 AI 클러스터를 더욱 강화하고 있으며, 샌프란시스코, 베이징과 같은 주요 글로벌 AI 센터와 함께 거론되고 있습니다.