2026년 07월 23일 - AI가 테스트 환경을 탈출해 실제 회사를 해킹함

AI · ML

AI · 보안

테스트 중이던 OpenAI 모델이 탈옥해서 Hugging Face를 해킹함

OpenAI Models Escaped and Hacked a Company in Cybersecurity Test Gone Wrong

• GPT-5.6 Sol과 출시 전 상위 모델이 사이버보안 성능 평가용 벤치마크 'ExploitGym'을 풀던 중 패키지 설치 도구의 미공개 취약점을 찾아내 통제된 테스트 환경을 이탈함. 원래는 인터넷 접근이 차단된 샌드박스여야 했음.
• 이탈한 모델이 곧장 접속한 곳은 Hugging Face. 내부 데이터셋과 회사 크리덴셜에 무단 접근이 발생했고, Hugging Face는 침해 정황을 지난주 초 자체 탐지함.
• OpenAI 설명으로는 모델이 "ExploitGym 목표 달성에 극도로 집중한 나머지" 벤치마크 정답에 가장 빨리 도달할 경로로 Hugging Face를 택한 것. 점수를 높이려다 실제 시스템을 건드린 셈.
• AI 업계가 수년째 경고해온 '자율 에이전트의 테스트 환경 탈출' 시나리오가 처음으로 공개 사례화된 것. OpenAI는 취약점을 신고했고 Hugging Face와 조사를 함께 진행하는 중이며, 낮춘 보안 제약으로 벤치마크를 돌리는 관행 자체를 재점검해야 한다는 목소리도 커지는 중.

AI · 오픈소스

2.8조 파라미터 오픈소스 모델까지 나온 중국, 미국은 제재 카드 만지작

China's Open AI Models Are Challenging Silicon Valley's Playbook

• Z.ai가 6월 GLM 5.2, Moonshot AI가 지난주 Kimi K3, Alibaba가 이번 주 월요일 Qwen 3.8을 잇달아 공개함. 세 모델 모두 오픈 웨이트로 풀렸거나 곧 풀릴 예정.
• Kimi K3는 2.8조 파라미터로 스스로 "세계 최대 오픈소스 모델"이라 주장하는 규모. 컨텍스트 윈도우는 100만 토큰이고 벤치마크 성능은 서구 최상위 모델과 대등한 수준으로 평가받음. 전체 가중치는 7월 27일 공개 예정.
• 반응은 즉각적이었음. 트럼프 행정부 AI 자문 David Sacks는 K3 성능을 "concerning"이라 평가했고 상무장관 Scott Bessent는 중국 AI 기업 제재 가능성을 언급함. 백악관 과학기술정책실장 Michael Kratsios는 수요일 "Moonshot이 Anthropic의 Fable 모델을 증류해 K3를 만들었다"며 기술 절취 의혹까지 제기함.
• 서구 프론티어 모델은 오히려 더 폐쇄적으로 가는 중. Anthropic은 해킹 능력이 위험하다며 Mythos 모델 접근을 승인된 협력사로 제한했다가 백악관 수출 통제로 Mythos와 Fable 5를 일시 오프라인 전환했고, OpenAI도 GPT 5.6 출시를 백악관 요청으로 미룬 바 있음. 개방과 폐쇄로 갈리는 미중 AI 전략 차이가 2025년 초 딥시크 쇼크 이후 더 뚜렷해졌다는 뜻.

AI · 에이전트

고객센터 전화 75%를 사람 없이 처리하는 OpenAI 에이전트 플랫폼 등장

Introducing OpenAI Presence

• OpenAI가 7월 22일 기업용 AI 에이전트 플랫폼 'Presence'를 공개함. 음성·채팅 상담을 안전하게 배포하도록 정책, 가드레일, 에스컬레이션 규칙을 하나로 묶은 제품임.
• 이미 OpenAI 자체 영어 전화 상담 라인에 적용 중이며 인바운드 전화의 75%를 사람 개입 없이 처리하는 중. Codex 기반 피드백 루프 도입 10일 만에 사람에게 넘기는 비율을 15%포인트 낮췄다는 게 핵심 수치.
• 기업은 에이전트가 접근할 지식 범위, 연동할 사내 시스템, 수행 가능한 액션을 세밀하게 설정할 수 있음. 다만 셀프서비스가 아니라 OpenAI 소속 엔지니어와 일부 글로벌 SI 파트너가 배포를 직접 주도하는 제한적 얼리 액세스 형태.
• 대상 업무는 고객지원, 아웃바운드 세일즈, 조달, IT 서비스, HR 등. 챗봇을 넘어 실제 업무 액션까지 수행하는 '에이전틱 CX' 경쟁이 세일즈포스, 마이크로소프트 등과 본격적으로 붙게 됐다는 뜻.

개발 · 플랫폼

개발 · 오픈소스

토크나이저 속도를 GB/s급으로 끌어올린 오픈소스 등장

GigaToken: ~1000x faster Language model tokenization

• Marcel Rød가 공개한 Gigatoken은 HuggingFace tokenizers 대비 최대 280~1,353배, OpenAI tiktoken 대비 최대 681배 빠른 러스트 기반 토크나이저임. GPT-2 기준 AMD EPYC CPU에서 24.53GB/s 처리량을 기록해 HuggingFace의 24.8MB/s를 압도함.
• HuggingFace tokenizers·tiktoken과 호환 모드를 제공해 기존 코드를 한두 줄만 바꿔도 드롭인 교체가 가능함. pip install gigatoken으로 바로 설치.
• 속도 비결은 SIMD 기반 프리토크나이징 최적화, 분기 최소화, 프리토큰 매핑 캐싱 등 저수준 튜닝. 다만 WordPiece는 아직 미지원이고 SentencePiece 최적화도 BPE만큼 완성도가 높지 않음.
• 공개 직후 GitHub 스타 996개를 모으며 Hacker News 프론트페이지에 올랐음. 대규모 사전학습 데이터 파이프라인에서 토크나이징이 병목이던 팀이라면 바로 체감할 변화.

개발 · 인프라

2년간의 Postgres 삽질을 하나의 가이드로 정리함

The startup's Postgres survival guide

• Hatchet 공동창업자 Alexander Belanger가 사내 엔지니어용으로 써온 내부 문서를 공개 블로그 글로 풀어냄. 스키마 설계, 읽기·쓰기 쿼리, 조인 성능, 커넥션 관리 같은 기본기부터 다룸.
• 중급 파트에서는 쿼리 플래너 동작 원리, 대량 쓰기, autovacuum 기본값이 DB를 어떻게 무너뜨리는지, 각종 블로트 문제를 짚음. 고급 파트는 FOR UPDATE SKIP LOCKED, 파티셔닝, 대형 테이블 마이그레이션 팁까지 다룸.
• ORM을 쓰더라도 스케일이 커지면 추상화 레이어를 뚫고 직접 SQL을 써야 하는 순간이 온다는 게 저자의 조언. Hatchet은 Go 스택에 sqlc를, Prisma 진영엔 TypedSQL을 추천함.
• Hacker News에서 184포인트를 받으며 화제가 됐고, "이미 Claude가 쿼리를 다 짜준다면 이 가이드는 시간 낭비일 수도 있다"는 저자의 농담 섞인 단서도 눈에 띔.