Jalapeño의 첫 번째 결과는 AI 추론에서 업계 최고 수준의 속도와 효율성을 보여줍니다 ↗
OpenAI는 자체 개발한 추론 칩인 Jalapeño의 첫 번째 성능 결과를 발표했습니다. GPT-OSS 120B 테스트에서 이 칩은 비교 시스템 대비 킬로와트당 최대 처리량이 약 1.9배 높았고 , 종단 간 지연 시간은 약 1.7배 낮았다 고 밝혔습니다 .
이러한 성능 향상은 DeepSeek R1과 Kimi K2.5에도 그대로 적용되었습니다. OpenAI는 Jalapeño를 자체 컴퓨팅 인프라에 배포할 계획이며, 2세대 및 3세대 설계도 이미 진행 중입니다. 따라서 OpenAI는 점차 칩 회사로도 변모하고 있다고 볼 수 있습니다. (OpenAI)
Claude Cowork는 마침내 당신이 앱 채팅에서 했던 말을 기억해냅니다 ↗
Anthropic은 일반 채팅과 Cowork에서 Claude의 기억을 통합했습니다. 이제 대화 중에 얻은 정보는 사용자가 에이전트 기반 작업에도 활용할 수 있으므로, 동일한 프로젝트를 반복해서 설명해야 하는 다소 짜증스러운 과정을 없앨 수 있습니다.
사용자는 저장된 주제를 검토, 편집 및 삭제할 수 있으며, 대화가 진행되는 동안 저장된 내용은 실시간으로 업데이트됩니다. 이 기능은 무료, 프로, 맥스 요금제 모두에서 기본적으로 제공됩니다. (TechCrunch)
구글 클라우드, 법률 분야용 제미니 엔터프라이즈 출시 ↗
구글 클라우드는 변호사를 위해 특별히 설계된 제미니 엔터프라이즈 패키지를 공개했습니다. 이 패키지를 통해 구글 에이전트는 일반적인 채팅 기능을 넘어 계약 검토, 법률 조사, 규제 모니터링, 개인정보 요청 및 문서 작성까지 기능을 확장할 수 있게 되었습니다.
이 솔루션은 Harvey, iManage, Docusign, RelativityOne, Thomson Reuters와 같은 플랫폼용 커넥터를 포함하는 동시에 기업의 기존 액세스 제어 및 윤리적 장벽을 유지합니다. AI 에이전트의 영역 확보 경쟁이 법무 부서까지 확산되고 있습니다... 예상했던 일이지만, 그 속도는 상당히 빠릅니다. (Google Cloud Press Corner)
구글 클라우드, 금융 서비스용 제미니 엔터프라이즈 출시 ↗
구글은 또한 금융 분야에 특화된 제미니 엔터프라이즈(Gemini Enterprise) 솔루션을 출시했는데, 여기에는 관리형 금융 리서치 에이전트, 50개 이상의 전문 기술 , 그리고 금융 및 시장 데이터 시스템과의 13개 연결 기능이 포함되어 있습니다
이 플랫폼은 신용 위험 평가, 포트폴리오 모니터링, KYC 조사 및 시장 분석을 포함한 워크플로우를 대상으로 합니다. CME 그룹과 도이치뱅크는 이미 이 플랫폼을 사용하고 있는 기업 중 하나이며, 기업용 에이전트는 마치 정장을 입은 소프트웨어처럼 점점 더 전문화되고 있습니다. (구글 클라우드 보도 자료 코너)
NVIDIA는 엔트리 레벨 엣지 AI의 새로운 기준을 제시할 Jetson Orin Nano 2 로봇 컴퓨터를 발표했습니다 ↗
엔비디아는 로봇, 드론 및 기타 물리적 AI 시스템을 위한 소형 컴퓨터인 젯슨 오린 나노 2를 공개했습니다. 이 제품은 초당 78조 회의 연산 능력, 8GB 메모리 및 8코어 Arm CPU를 제공합니다.
엔비디아는 추론 성능이 이전 나노 슈퍼 대비 두 배로 향상되었으며, 동일한 성능을 내는 데 필요한 전력은 40% 감소. 소형 하드웨어에서 진정한 성능을 발휘하는 소형 모델이 등장했다는 점이 주목할 만한데, 이는 AI가 더 이상 거대한 데이터 센터에 항상 연결할 필요가 없다는 것을 의미합니다. (엔비디아 뉴스룸)
Perplexity는 Nvidia와 협력하여 토큰 비용이 전혀 들지 않는 완전 로컬 AI 에이전트인 Portable Computer를 출시합니다 ↗
Perplexity는 NVIDIA 기반 로컬 하드웨어에서 에이전트 기반 컴퓨터 환경을 구현하는 Portable Computer를 출시했습니다. 모델, 파일 및 에이전트 실행은 사용자의 컴퓨터에 유지되며, 로컬에서 완료된 작업은 클라우드 요금 크레딧을 소모하지 않습니다.
작업은 로컬에서 시작되며, 시스템은 상위 클라우드 모델로 전환하기 전에 권한을 요청합니다. 엔비디아 DGX Spark 및 충분히 강력한 RTX GPU를 탑재한 리눅스 시스템에서 실행되므로, 개인 정보 보호와 비용 또한 로컬 AI의 핵심 경쟁력으로 부상하고 있습니다. (벤처비트)
월스트리트저널(WSJ) 보도에 따르면, 앤트로픽은 투자자들에게 30조 달러 이상의 잠재적 수익을 예상한다고 발표할 것으로 예상된다 ↗
앤트로픽은 투자자들에게 자사의 잠재 시장 규모가 30조 달러를. 중요한 점은, 이는 인공지능이 관련 업무를 모두 차지할 경우 발생할 수 있는 이론적인 연간 기회 규모이지, 앤트로픽이 실제로 30조 달러 규모에 도달할 것이라고 예측하는 것이 아니라는 점이다. (로이터)
이 엄청난 수치는 앤트로픽의 인프라 투자, 오픈AI 및 구글과의 경쟁, 그리고 더 나아가 투자자들에게 미치는 영향에 대한 전반적인 상황을 이해하는 데 도움을 줍니다. 이는 인공지능 업계의 일반적인 수치와 비교해도 놀라울 정도로 큰 규모입니다. (로이터)
자주 묻는 질문
OpenAI의 할라피뇨 칩 실험 결과는 AI 추론에 어떤 의미를 갖는가?
OpenAI는 GPT-OSS 120B 실행 시 Jalapeño가 비교 시스템보다 킬로와트당 최대 처리량이 높고 종단 간 지연 시간이 더 짧았다고 밝혔습니다. DeepSeek R1 및 Kimi K2.5에서도 유사한 성능 향상이 보고되었습니다. 이러한 결과는 OpenAI가 대규모 AI 추론에 필요한 효율성과 속도 요구 사항에 맞춰 하드웨어를 설계하는 데 점점 더 집중하고 있음을 시사합니다.
클로드의 공유 메모리는 채팅과 코워킹 환경에서 어떻게 작동하나요?
이제 Claude는 일반 대화에서 얻은 정보를 Cowork 작업에 저장할 수 있어 동일한 프로젝트나 맥락을 반복적으로 설명해야 하는 필요성을 줄여줍니다. 사용자는 저장된 주제를 검토, 편집 및 삭제할 수 있으며, 대화가 진행됨에 따라 저장된 내용은 계속 업데이트됩니다. 기사에 언급된 발표에 따르면 이 기능은 무료, Pro 및 Max 요금제 모두에서 기본적으로 활성화됩니다.
제미니 엔터프라이즈는 법률 및 금융 서비스 분야에서 어떤 일을 할 수 있을까요?
Google Cloud의 특화된 Gemini Enterprise 제품군은 일반적인 AI 챗봇이 아닌 특정 산업 분야의 워크플로우에 초점을 맞추고 있습니다. 법률 패키지는 계약 검토, 조사, 규제 모니터링, 개인정보 요청 및 문서 작성과 같은 분야를 다루며, 금융 서비스 버전은 신용 위험 평가, 포트폴리오 모니터링, KYC 조사 및 시장 분석과 같은 워크플로우를 지원합니다. 두 버전 모두 기존의 전문 데이터 및 소프트웨어 시스템과 연동할 수 있습니다.
로컬 AI 추론이 점점 더 중요해지는 이유는 무엇일까요?
로컬 AI 추론은 개인정보 보호를 강화하고 클라우드 인프라에 대한 의존도를 줄이며 잠재적으로 지속적인 사용 비용을 낮출 수 있습니다. 엔비디아의 젯슨 오린 나노 2는 로봇, 드론 및 기타 엣지 시스템을 대상으로 하며, 퍼플렉시티의 휴대용 컴퓨터는 모델, 파일 및 에이전트 실행을 호환 가능한 로컬 하드웨어에 유지합니다. 많은 워크플로에서 클라우드 모델은 추가적인 기능이 필요한 작업에만 사용할 수 있습니다.
Perplexity 휴대용 컴퓨터는 클라우드 AI를 언제 사용할지 어떻게 결정하나요?
작업은 사용자의 로컬 NVIDIA 기반 하드웨어에서 시작되도록 설계되어 호환 가능한 모델 실행 및 파일이 해당 시스템에 유지됩니다. 특정 단계에서 최첨단 클라우드 모델이 필요한 경우, 시스템은 작업을 클라우드로 이전하기 전에 사용자에게 권한을 요청합니다. 로컬에서 완료된 작업은 클라우드 요금 크레딧을 소모하지 않으므로 개인 정보 보호 및 반복적인 추론 비용에 민감한 사용자에게 적합한 방식입니다.
앤트로픽이 발표한 30조 달러 규모의 AI 시장 추정치는 무엇을 의미하는가?
보고된 수치는 앤트로픽이 추정한 AI의 잠재적 총 시장 규모를 나타내는 것이지, 앤트로픽 자체가 연간 30조 달러의 매출을 올릴 것이라는 예측을 의미하는 것은 아닙니다. 이는 AI가 경제 전반에 걸쳐 잠재적으로 창출할 수 있는 일자리의 이론적 가치를 나타냅니다. 이러한 추정치는 주요 AI 기업들이 인프라 및 기업 역량에 막대한 투자를 하는 이유를 설명하는 데에도 도움이 됩니다.