태그

#llama.cpp

'llama.cpp' 태그가 붙은 글 1개

Apple M6·M5 Ultra가 여는 로컬 AI 코딩 시대: 온디바이스 LLM의 현실과 과제

애플의 M6·M5 Ultra가 수십B 파라미터 LLM을 데스크톱에서 구동하며 클라우드 의존 AI 코딩 도구의 로컬 전환을 앞당기고 있습니다. 하드웨어 조건, 오픈소스 스택, 비용·프라이버시, 남은 과제를 점검합니다.