본문 바로가기
News

2026년 07월 15일 - 27B 모델이 폰 안에 들어가는 날

by kkam99 2026. 7. 15.
반응형

2026년 07월 15일 - 27B 모델이 폰 안에 들어가는 날

AI · ML

AI · 온디바이스

27B급 모델이 아이폰 안에 들어감 — 4bit로도 컸는데 1비트로 3.9GB

Bonsai 27B: A 27B-Class Model that runs on a phone

  • PrismML이 7월 14일 Bonsai 27B 공개. Qwen3.6 27B를 기반으로 삼진(ternary, {-1,0,+1}) 버전과 1비트({-1,+1}) 버전 두 가지로 나눠 내놓음.
  • 삼진 버전은 5.9GB, 유효 1.71비트/가중치로 압축돼 랩탑에서 추론·툴콜·에이전트 루프를 풀로 돌림. 1비트 버전은 3.9GB, 유효 1.125비트/가중치로 아이폰 17 프로 메모리 예산 안에 들어감.
  • 16비트 기준으로는 54GB, 4비트 양자화로도 18GB였던 걸 감안하면 압축률이 파격적. 15개 벤치마크(수학, 코딩, 에이전틱, 지식, 비전) 종합 점수에서 풀프리시전 대비 삼진 버전은 95%, 1비트 버전은 90%를 유지.
  • 262K 토큰 컨텍스트, 스펙큘레이티브 디코딩, 4비트 비전타워까지 내장해 화면·문서·카메라 입력을 온디바이스에서 처리. 전체가 Apache 2.0으로 공개됨.
  • 온디바이스 AI 경쟁의 축이 "얼마나 똑똑한가"에서 "얼마나 작으면서 똑똑한가"로 넘어가는 신호 — 로컬 에이전트 시대를 앞당기는 셈.

AI · LLM

OpenAI가 코덱스랑 챗GPT를 합쳤음 — 5.6은 세 얼굴로 나뉨

How to use GPT-5.6

  • OpenAI가 GPT-5.6을 공개하며 macOS용 챗GPT 앱과 코덱스 앱을 하나로 통합. 새 모드 이름은 ChatGPT Work이고, 코딩용/비코딩용 세부 튜닝을 나눠 제공.
  • 모델은 플래그십 Sol($5/$30, 입력/출력 1M 토큰당), 중급 Terra($2.5/$15), 경량 Luna($1/$6) 세 티어로 나뉘고 각각 light부터 max까지 5단계 사고 강도에 서브에이전트를 대거 굴리는 Ultra 모드가 추가됨.
  • Ultra 모드는 사용량을 빠르게 소진하는 방식이라 Ben's Bites 필자는 코덱스에서 처음으로 한도 임박을 경험했다고 언급. 평소엔 빌딩·창작은 Sol medium, 어려운 작업은 백그라운드 에이전트, 일상 작업은 Luna xhigh로 나눠 쓴다고 정리.
  • 지난 주말 앱 병합 과정의 버그로 사용량이 4~5차례 리셋됐고, 5시간 단위 사용 제한도 임시로 풀린 상태 — 주간 한도를 하루 만에 다 쓸 수 있으니 주의가 필요한 시점.
  • 코덱스 앱의 컴퓨터 유즈(화면을 보고 커서로 앱을 조작하는 기능) 품질도 이번 릴리스에서 눈에 띄게 좋아졌다는 평가.

개발 · 플랫폼

개발 · 언어

C++26 리플렉션으로 타입 소거를 헤더 하나로 끝냄

Show HN: Beautiful Type Erasure with C++26 Reflection

  • Ryan Keane이 C++26 리플렉션을 활용한 rjk::duck 라이브러리 공개. std::any·std::function 수준을 넘어서는 타입 소거를 Boost.TypeErasure나 Folly.Poly 같은 무거운 라이브러리 없이 단일 헤더로 구현.
  • 인터페이스를 [[=rjk::trait]] 애노테이션으로 한 번만 선언하면 이미 작성된 타입 정의를 그대로 붙여 런타임에 타입을 자유롭게 스왑 가능. vector, string, map을 같은 변수에 순서대로 담아 쓰는 예시로 시연.
  • 현재는 gcc -std=c++26 -freflection 옵션에서만 동작하는 실험 단계. 소유·비소유 시맨틱, 연산자 오버로드, 인터페이스 합성, 서드파티 타입용 어댑터까지 지원.
  • 리플렉션이 표준에 들어오면 enum-to-string이나 JSON 직렬화 정도가 아니라 vtable 코드젠 같은 컴파일러 수준 작업까지 라이브러리 코드로 옮겨올 수 있다는 걸 보여준 사례.

개발 · 인프라

멀티 에이전트는 프롬프트로 안 됨 — 칸반보드에 일을 태움

Multi-Agent Systems Need More Than a Prompt

  • Heym이 만든 Agentic Kanban Board는 카드를 컬럼 사이로 옮기는 행위 자체가 워크플로우 실행 트리거. Backlog에서 Planning으로 카드를 옮기면 그 컬럼에 연결된 AI 워크플로우 체인이 자동으로 시작됨.
  • 카드에는 원본 요청, 코멘트, 첨부파일, 이전 워크플로우 출력, 이동 이력, 실행 결과, 에러 상태까지 누적돼 다음 워크플로우로 그대로 전달 — 매번 프롬프트에 컨텍스트를 복붙할 필요가 없다는 뜻.
  • 컬럼별로 다른 모델과 툴을 쓸 수 있어서, 기획 컬럼은 사람의 승인을 기다리고 개발 컬럼은 코덱스 기반 워크플로우로 코드를 짜는 식으로 역할 분리가 가능.
  • "어떤 컨텍스트를 받았고, 어떤 툴이 돌았고, 왜 멈췄는지"가 채팅 로그와 터미널 로그에 흩어지면 시스템을 신뢰하기 어렵다는 문제의식에서 출발한 설계 — 실행 흐름을 시각적 캔버스로 노출해 블랙박스를 줄이려는 시도.

산업 · 비즈니스

산업 · 규제

뉴욕주가 데이터센터에 1년간 브레이크 걸었음

New York Governor Signs First Statewide Data Center Moratorium

  • 뉴욕 주지사 캐시 호컬이 7월 14일 행정명령 62호에 서명, 50메가와트 이상 하이퍼스케일 데이터센터의 州 환경 심사를 1년간 중단시킴. 미국 최초의 州 단위 데이터센터 모라토리엄.
  • 이 기간 동안 주 공공서비스부가 데이터센터의 환경·에너지 영향을 평가하고, 표준화된 환경영향평가서(GEIS)와 통합 허가 절차를 새로 마련. 60일 안에는 지자체가 기업과 인프라 개선·보육 투자·직접 재정 지원 같은 지역 혜택을 협상할 가이드라인도 나올 예정.
  • 호컬은 데이터센터 대상 세금 감면 전면 폐지도 함께 제안. 앞서 6월 주 의회를 통과한 '책임있는 데이터센터 개발법'(기준 20MW, 이번 행정명령보다 더 엄격)은 아직 주지사 서명 대기 중인 상태라, 이번 조치는 그 사이 절충안 성격.
  • 전력망 부담과 전기요금 상승에 대한 주민 반발이 전국으로 번지는 가운데 나온 조치 — 다른 주들도 유사한 모라토리엄을 검토 중이라, 빅테크의 데이터센터 확장 전략에 지역 규제가 본격적인 변수로 등장한 셈.

산업 · 빅테크

앤트로픽이 미국 K-12 교사 전원에게 클로드를 무료로 풀었음

Claude For Teachers

  • 앤트로픽이 7월 14일 Claude for Teachers 출시. 미국 내 인증된 K-12 교사에게 프리미엄 클로드 기능과 교습 스킬 라이브러리, 50개 주 학업 표준에 맞춘 커리큘럼 연동을 무료로 제공.
  • 러닝커먼스(Learning Commons) 커넥터를 통해 주별 학업 표준뿐 아니라 그 아래 세부 학습 역량과 학습 순서까지 참조 — 클로드가 수업계획을 짤 때 표준에 스캐폴딩된 결과를 내놓는다는 뜻. OpenSciEd, Illustrative Mathematics의 IM v.360 같은 검증된 커리큘럼도 함께 연동.
  • ASSISTments, Brisk Teaching, Canva Education, Diffit, MagicSchool 등 K-12 생태계 툴 여러 개와 통합돼 교사가 클로드에서 바로 학급 자료를 만들고 넘길 수 있음. 2027년 6월 30일까지 가입하면 1년 무료 이용이 보장됨.
  • 학생 정보는 K-12용 데이터처리부속계약으로 FERPA 준수 범위에서 다뤄지고 모델 학습에도 쓰이지 않음. 학생 대상 AI 도구의 효과는 아직 엇갈리지만 교사 대상 도구는 지도 역량을 뚜렷이 강화한다는 초기 연구를 근거로 삼은 전략 — 학생에게 AI를 직접 쥐어주기보다 교사의 시간을 벌어주는 쪽에 베팅한 셈.
반응형