보안 문제로 인해 오픈아이얼은 AI 모델 아스트라(Astra) 관련 일부 작업을 일시 중단할 예정입니다 ↗
OpenAI는 강화된 보안 요구사항을 충족하지 못하는 Astra에 대한 내부 개발을 일시 중단했습니다. 평가 결과, Astra의 사이버 능력이 "위험" 한계를 넘어섰을 가능성이 제기되었기 때문입니다. 해당 에이전트는 인간의 개입 없이 취약점을 찾아 악용하거나, 고위급 목표를 설정하고 공격을 실행할 수 있는 것으로 알려졌습니다. 네... 이는 상당히 심각한 문제로 볼 수 있습니다.
이 회사는 격리된 테스트, 네트워크 및 도구 접근, 모델 가중치 보호, 암호화 및 모니터링을 강화하고 있습니다. 아스트라제네카는 오픈AI의 이전 '허깅 페이스' 사건에는 관여하지 않았지만, 점점 더 자율적인 에이전트가 늘어나는 추세로 인해 확산 방지가 훨씬 더 중요한 문제로 대두되고 있습니다. (출처: 가디언)
애플은 중국의 맥 사용자들이 알리바바의 Qwen AI 서비스에 접속할 수 있다고 밝혔습니다 ↗
중국 본토의 Mac 사용자들은 이제 알리바바의 Qwen을 Siri 및 애플의 쓰기 도구와 연결할 수 있습니다. 이를 통해 더욱 상세한 답변은 물론 문서 및 이미지 분석, 설명에 기반한 텍스트 및 이미지 생성 기능까지 이용할 수 있습니다.
솔직히 말해서 흥미로운 결합입니다. 애플은 치열한 경쟁이 벌어지는 PC 시장에서 현지 규정을 준수하는 방식으로 더욱 강력한 AI 기능을 구현할 수 있게 되었고, 알리바바는 Qwen을 다른 회사의 생태계에 훨씬 더 깊숙이 통합할 수 있게 되었습니다. 애플은 해당 확장 프로그램을 통해 전송된 자료는 알리바바가 자체 모델 학습에 사용할 수 없다고 밝혔습니다. (출처: 로이터)
구글 딥마인드 공동 창립자 데미스 하사비스의 AI 역할 변경으로 새로운 시대가 도래했습니다 ↗
데미스 하사비스는 딥마인드의 일상적인 경영에서 물러나 회장직을 맡게 되었으며, 동시에 알파벳의 최고 과학자 역할도 겸임하게 되었습니다. 오랜 동료인 코레이 카부쿠오글루는 CEO가 아닌 수석 부사장으로서 운영을 총괄하게 되었는데, 이는 미묘한 직함 변화이지만 많은 것을 시사합니다.
이번 개편은 다른 주요 연구원들의 퇴사와 맞물려 딥마인드가 독립성을 잃고 구글의 상업용 AI 사업부에 더욱 긴밀하게 통합되고 있다는 의문을 불러일으키고 있습니다. 구글은 이번 변화가 제미니의 경쟁 실적과는 무관하다고 주장하고 있습니다. (출처: 가디언)
영국에서 자신과 똑같이 생긴 딥페이크 영상을 본 아동의 수가 증가하고 있습니다 ↗
영국 어린이들이 자신들의 노출이 심한 가짜 또는 조작된 이미지를 발견했다는 신고가 급증했습니다. 신고 사이트인 Report Remove는 불과 6개월 만에 420건의 신고를 접수했는데, 이는 이전 연간 총 신고 건수인 397건을 이미 넘어선 수치입니다. 인공지능 기반의 '나체화' 도구들이 이러한 문제를 더욱 쉽게 확산시키고 있습니다.
인터넷 감시 재단(Internet Watch Foundation)은 신고된 조작 이미지 중 상당수가 아동 성착취물에 해당할 정도로 심각했다고 밝혔습니다. 일부 피해자는 성착취 협박의 표적이 되기도 했는데, 인공지능이 생성한 이미지가 매우 현실적인 무기로 악용된 것입니다. (출처: 가디언)
설문조사에 따르면 AI 기능이 비즈니스 가치를 앞지르며 빠르게 발전하고 있는 것으로 나타났습니다 ↗
엔터프라이즈 소프트웨어 회사들은 AI 기능을 쏟아내고 있지만, 고객들이 이를 실제로 활용하는 경우는 드뭅니다. 260개 이상의 업종별 소프트웨어 기업을 대상으로 한 설문조사에서 51%가 자사에서 개발한 AI 기능을 사용하는 고객이 4분의 1도 채 되지 않는다고 답했습니다. 그렇게 많은 기능을 출시해 놓고 보면 다소 난감한 결과입니다.
병목 현상은 AI 역량 자체보다는 통합, 보안, 개인정보 보호, 워크플로 변경, 그리고 구체적인 비즈니스 가치 입증과 관련된 문제로 보입니다. 특히 눈에 띄는 현상 중 하나는 "토큰맥싱(tokenmaxxing)"인데, 이는 대시보드상에서 인상적인 모습을 보여주지만 실제로 더 나은 결과를 낳고 있다는 명확한 증거가 없는 AI 사용량 급증을 의미합니다. (출처: 포브스)
인공지능은 데이터가 따라잡을 수 없을 정도로 빠르게 업무 환경을 변화시키고 있습니다 ↗
AI 관련 일자리 논쟁은 오히려 더 복잡해지고 있습니다. 2만 1천 개 이상의 미국 기업을 대상으로 한 연구에 따르면 AI 도입률이 가장 높은 기업들은 전체 직원 수가 10% 증가하고 신입사원 채용은 12% 증가한 반면, AI 도입률이 낮은 기업들은 직원 수 증가가 없었던 것으로 나타났습니다.
하지만 다른 연구에서는 AI 관련 직종에 종사하는 젊은 근로자들 사이에서 고용 압박이 나타나고 있다는 결과가 나왔으며, 경제학자들은 AI가 경제 전반에 걸쳐 직업을 변화시키는 와중에도 성장하는 기업들은 여전히 고용을 늘릴 수 있다고 경고합니다. 따라서 AI는 일자리를 없애기도 하고 창출하기도 한다는… 상반된 데이터들이 이러한 주장을 뒷받침하고 있습니다. (출처: 포춘)
자주 묻는 질문
현재 가장 주목할 만한 AI 관련 뉴스는 무엇인가요?
최근 AI 관련 소식들은 자율성 강화, 보안 강화, 플랫폼 통합 심화, 경영진 교체, 온라인 안전 위험, 그리고 불확실한 사업 가치 등 여러 가지 공통된 주제를 보여줍니다. OpenAI는 Astra에 대한 보안을 강화하고 있고, Apple은 중국에서 Qwen을 Mac과 연동하고 있으며, DeepMind는 경영진을 교체하고 있습니다. 이와 동시에 딥페이크, 기업의 AI 도입, 그리고 AI가 고용에 미치는 영향에 대한 우려도 커지고 있습니다.
OpenAI는 왜 Astra 관련 작업을 일부 중단했을까요?
보도에 따르면, 오픈아이얼은 강화된 보안 요구사항을 충족하지 못하는 아스트라(Astra) 내부 작업을 일시 중단했습니다. 평가 결과, 해당 모델의 사이버 보안 기능이 심각한 수준에 도달했을 가능성이 제기되었기 때문입니다. 고도화된 에이전트가 사람의 개입 없이 또는 최소한의 개입만으로 취약점을 발견하고 악용할 수 있다는 우려가 제기되었습니다. 이에 오픈아이얼은 격리된 환경에서의 테스트, 접근 제어, 암호화, 모니터링, 그리고 모델 가중치 보호 조치를 강화하고 있습니다.
알리바바 큐웬은 중국에서 애플 맥과 어떻게 연동될까요?
중국 본토의 맥 사용자 중 자격 요건을 충족하는 사용자는 알리바바의 Qwen 서비스를 Siri 및 애플의 쓰기 도구와 연동할 수 있습니다. 이러한 통합을 통해 더욱 상세한 답변, 문서 및 이미지 분석, 설명 기반 텍스트 또는 이미지 생성 등의 기능을 지원할 수 있습니다. 애플은 이번 협력을 통해 현지 법규를 준수하면서 더욱 강력한 AI 기능을 구현할 수 있게 되었고, 알리바바는 애플 생태계에 더욱 깊이 접근할 수 있게 되었습니다. 애플은 제출된 자료가 알리바바의 모델 학습에 사용될 수 없다고 밝혔습니다.
딥마인드의 경영진 교체는 구글 AI에 어떤 의미를 갖는가?
데미스 하사비스는 딥마인드의 일상적인 경영에서 물러나 알파벳의 회장 겸 최고과학책임자(Chief Scientist) 역할을 맡게 되었습니다. 코레이 카부쿠오글루는 수석 부사장으로서 운영을 총괄하게 됩니다. 이러한 변화는 딥마인드가 구글의 광범위한 상업용 AI 사업에 더욱 긴밀하게 통합되는 것인지에 대한 의문을 제기하고 있지만, 구글은 이번 개편이 제미니의 경쟁 실적과 연관되어 있다는 주장을 부인하고 있습니다.
인공지능 딥페이크가 아동 안전에 대한 더 큰 우려 사항으로 떠오르는 이유는 무엇일까요?
인공지능 기반 이미지 조작 도구를 사용하면 실제와 같은 노골적인 가짜 이미지를 대량으로 쉽게 만들 수 있습니다. 영국에서는 아동들이 자신들의 조작되거나 위조된 이미지에 대한 신고가 증가하고 있으며, 일부 사례는 아동 성착취물에 해당할 정도로 심각한 것으로 나타났습니다. 이러한 이미지는 성착취에도 악용될 수 있어, 위조된 이미지 하나만으로도 상당한 명예훼손, 정신적 고통, 금전적 피해를 초래할 수 있습니다.
기업과 근로자들은 이미 인공지능의 혜택을 보고 있을까요?
최근 AI 관련 소식들을 보면 그 답은 엇갈리는 것으로 보입니다. 많은 소프트웨어 회사들이 고객의 도입 속도보다 빠르게 AI 기능을 추가하고 있지만, 통합, 개인정보 보호, 보안, 그리고 측정 가능한 비즈니스 가치는 여전히 주요 장벽으로 남아 있습니다. 고용 데이터 역시 마찬가지로 복잡합니다. AI 도입이 활발한 일부 기업들은 채용을 확대하고 있는 반면, 다른 연구에서는 AI 관련 직무에 종사하는 젊은 근로자들이 오히려 어려움을 겪고 있다는 점을 지적합니다. 전반적인 영향은 산업, 업무 흐름, 그리고 AI 구현 방식에 따라 크게 달라집니다.