모델 크기보다 여유 메모리가 먼저입니다
로컬 실행의 첫 조건은 모델 이름이 아니라 실제 메모리 여유입니다. 양자화 수준과 컨텍스트 길이가 함께 메모리를 사용하므로, 작은 모델과 짧은 요청으로 시작한 뒤 늘리는 편이 안전합니다.
Studio와 런타임의 역할을 나눕니다
Unsloth는 로컬 추론과 학습을 위한 도구를 제공하며, Studio는 모델 탐색·실행·설정을 화면에서 다루는 선택지입니다. 특정 DeepSeek 릴리스나 성능 배수는 바뀔 수 있으므로, 설치 직전에는 공식 지원 목록과 릴리스 노트를 다시 확인해야 합니다.
로컬 API를 열기 전 접근 범위를 정합니다
로컬 모델이라도 API 포트를 열면 다른 프로세스가 접근할 수 있습니다. 개인 기기 테스트는 로컬호스트 범위에서 시작하고, 외부 연결이 필요할 때만 인증과 네트워크 정책을 추가합니다.
공식 자료: Unsloth Docs · 시스템 요구사항