1. 애플 아이폰에서 400B급 초대형 LLM 구동 성공…'온디바이스 AI' 가능성 재점화
애플의 하드웨어와 외부 스토리지를 활용해, 기존에 클라우드 서버 없이는 구동이 어려웠던 초대형 AI 모델을 스마트폰에서 직접 실행하는 실험이 성공했다. 이는 '온디바이스 AI'의 한계를 뛰어넘는 기술적 돌파구로, 향후 AI 애플리케이션의 패러다임 자체를 바꿀 수 있는 가능성을 시사한다. AI 연구원 댄 우즈(Dan Woods)가 주도한 이 실험은 'LLM in a Flash'라는 방식을 통해 진행됐다. 이 방식의 핵심은 모델의 거대한 가중치 데이터를 기기의 DRAM이 아닌 외부 플래시 메모리에 저장하고, 필요한 부분만 순차적으로 메모리로 불러와 처리하는 것이다. 이...