설치한 곳과 계산하는 곳은 다르다
명령어를 입력하는 창인 맥북 터미널에 Claude Code를 설치했습니다. 내 폴더를 읽고 파일도 수정합니다. 그렇다면 AI의 답변까지 전부 맥북 안에서 만들어질까요? 설치했다는 사실만으로는 알 수 없습니다.
앱이 움직이는 장소와 AI 모델이 계산하는 장소는 다를 수 있습니다. 내 Mac에서 파일을 읽은 다음, 그 내용을 원격 서버의 모델에 보내 답변을 받아오는 구성도 가능합니다. 반대로 모델 파일까지 내려받아 내 Mac에서 답변을 계산할 수도 있습니다.
이 글에서는 세 가지만 구분하면 됩니다. 사용자가 지시하는 ‘도구’, 답변을 계산하는 ‘모델’, 그 계산이 이루어지는 ‘위치’입니다.
로컬 AI와 온디바이스 AI란?
로컬 AI는 보통 자신이 관리하는 컴퓨터나 가까운 서버에서 모델을 실행하는 구성을 말합니다. 온디바이스 AI는 그중에서도 사용 중인 기기 자체에서 계산한다는 점을 강조합니다. 용어의 범위는 제품마다 다를 수 있습니다.
맥북 안에서 모델을 돌리면 온디바이스 AI라고 할 수 있습니다. 집에 있는 별도 서버에 맥북으로 접속한다면 자체 운영 AI일 수는 있지만, 맥북 자체에서 계산하는 것은 아닙니다. 클라우드 AI는 원격 서비스의 서버에서 모델이 계산합니다.
모델이 질문을 받아 답을 만드는 계산을 ‘추론’이라고 부릅니다. 모델을 처음부터 가르치는 ‘학습’과는 다릅니다. 로컬 AI를 시작한다고 직접 모델을 학습시켜야 하는 것은 아닙니다.
Claude Code와 Llama·Qwen은 역할이 다르다
Claude Code는 코드를 읽고 파일을 수정하며 명령을 실행하는 작업 도구입니다. Llama와 Qwen은 여러 크기와 용도의 모델을 포함하는 계열입니다. 그래서 “Claude Code와 Qwen 중 누가 더 똑똑할까?”는 도구와 모델을 같은 종류로 놓고 묻는 셈입니다.
Ollama는 이런 모델을 실행하거나 연결하는 데 사용하는 소프트웨어입니다. 예를 들어 ‘Claude Code → Ollama → 내 Mac의 호환 모델’이라는 구성을 만들 수 있습니다. Ollama 공식 문서도 Claude Code를 로컬 또는 클라우드 모델에 연결하는 방법을 안내합니다. 모든 Llama·Qwen 모델이 같은 기능이나 품질을 제공한다는 뜻은 아닙니다.
아래 표에서는 성능 순위를 매기지 않고 각 이름의 역할을 비교합니다. 실제 호환성은 모델이 파일 수정이나 명령 실행 같은 도구 기능을 지원하는지, 프로그램 버전과 설정이 맞는지 확인해야 합니다.
| 이름 | 역할 | 실행 위치를 판단할 때 |
|---|---|---|
| Claude Code | 파일·명령을 다루는 작업 도구 | 연결된 모델이 내 Mac에서 실행되는지 확인 |
| Llama · Qwen | 답변을 계산하는 모델 계열 | 내 Mac에서도 원격 서버에서도 실행 가능 |
| Ollama | 모델 실행·연결 소프트웨어 | 선택한 모델이 로컬인지 클라우드인지 확인 |
내 Mac에서 실행하면 무엇이 달라질까?
인터넷: 필요한 모델과 실행 환경을 미리 준비했다면 로컬 추론은 인터넷 없이도 가능할 수 있습니다. 하지만 웹검색, 외부 서비스 이용, 작업에 필요한 추가 프로그램 다운로드는 여전히 연결이 필요합니다. 모델이 오프라인이어도 작업 전체가 오프라인인 것은 아닙니다.
메모리와 속도: 로컬 모델은 내 기기의 메모리와 연산 자원을 사용합니다. 모델 크기, 압축 방식, 한 번에 처리할 대화량에 따라 요구량이 달라집니다. “맥북이면 어떤 모델이든 된다”거나 “로컬이면 항상 빠르다”고 볼 수 없습니다.
비용: 자체 실행에서는 모델을 계산할 때마다 외부 AI 서비스에 답변 생성 요금을 낼 필요가 없는 구성을 만들 수 있습니다. 대신 기기, 전기, 저장 공간과 관리 비용이 듭니다. 별도로 연결한 유료 서비스의 비용은 남습니다.
데이터: 로컬 추론은 입력을 기기 안에서 처리하도록 구성할 수 있다는 장점이 있습니다. 다만 앱의 동기화·로그·웹 도구·확장 기능이 데이터를 외부로 보낼 수 있습니다. 모델 이름 하나로 전체 앱의 개인정보 처리를 판단하면 안 됩니다.
진짜 로컬인지 확인하는 세 단계
첫째, 현재 선택된 모델과 연결 주소를 확인하세요. Llama·Qwen을 골랐어도 서버에서 제공받는 모델일 수 있습니다. Ollama 역시 로컬 실행과 클라우드 실행을 모두 지원합니다.
둘째, 네트워크가 필요한 기능을 구분하세요. 설치와 다운로드를 마친 뒤 중요한 작업이 없는 상태에서 연결을 끊고, 새로운 짧은 질문을 입력하고 답변이 나오는지 시험해 볼 수 있습니다. 이 테스트는 오프라인 동작의 단서이지, 앱이 평소 데이터를 전송하지 않는다는 증명은 아닙니다.
셋째, 설정과 문서를 함께 확인하세요. Ollama는 클라우드 모델과 웹검색을 끄는 로컬 전용 설정을 제공합니다. 그래도 함께 쓰는 앱이나 플러그인의 통신까지 대신 차단하지는 않습니다.
처음에는 비민감한 짧은 문서 요약으로 시작해 보세요. 설치 화면보다 실제 응답 속도와 결과 품질을 확인하는 것이 내 환경에 맞는지 판단하는 데 도움이 됩니다.
pika가 필요한 순간
로컬 모델로 문서를 처리하거나 내 Mac에서 코딩 작업을 이어 간다면, Mac이 잠들 때 그 작업도 중단되거나 지연될 수 있습니다. 원격 서버가 독립적으로 수행하는 작업과 내 Mac에서 계속 실행돼야 하는 작업을 구분하세요.
pika는 AI 모델을 실행하거나 클라우드 AI를 로컬 AI로 바꾸는 앱이 아닙니다. 필요한 작업 동안 Mac이 깨어 있도록 유지하는 역할입니다.
덮개를 닫고 사용할 때는 보조 서비스 상태를 확인하고 Session을 ON으로 준비한 뒤 짧게 동작을 시험하세요. 전원을 연결하고 통풍되는 책상 위에서 사용하며, 끝나면 Session을 OFF로 돌립니다.
어떤 모델인지, 어디서 계산하는지, 내 Mac이 계속 켜져 있어야 하는지. 이 세 질문에 답할 수 있다면 ‘로컬 AI’라는 이름보다 훨씬 정확하게 자신의 환경을 이해한 것입니다.
참고 자료와 글의 범위
2026년 10월 22일 공식 문서를 확인한 입문용 설명입니다. pika 제작자가 작성했으며, 모든 모델의 성능이나 Mac 호환성을 실측한 비교가 아닙니다. 연결 기능과 지원 범위는 버전에 따라 달라질 수 있습니다.
