Thinking Machines: Inkling Small (free)

Inkling-Small은 추론, 코딩, 대화, 도구 사용 애플리케이션을 위한 Thinking Machines Lab의 더 작은 오픈 웨이트 멀티모달 모델입니다. 텍스트, 이미지, 오디오를 입력받고 텍스트를 생성합니다. 전문가 혼합 설계는 총 파라미터 276B개, 활성 파라미터 12B개를 갖추며, Inkling은 총 975B개와 활성 41B개를 갖습니다. Small은 효율성과 역량의 균형이 다른 별도 출시 모델이며, Inkling의 짧은 출력 모드가 아닙니다.

코드 조사에서는 영향을 받는 파일, 관찰된 동작, 필요한 변경을 제공한 다음 담당 경로와 초점을 맞춘 수정을 요청하세요. 유용한 최종 결과물에는 제안된 수정과 연결된 애플리케이션이 실제로 실행한 확인 절차의 근거가 포함됩니다. 지원 도우미에서는 관련 정책과 대화 사실을 제공하고 다음 응답이나 추가로 필요한 질문을 요청하세요. 모델의 목표 용도에는 코딩 도우미, 챗봇, 검색 증강 응답, 애플리케이션 도구를 사용하는 에이전트 시스템이 포함됩니다.

컨텍스트 창은 최대 백만 토큰입니다. 긴 저장소나 문서 모음을 파일명, 섹션 라벨, 명확한 질문으로 정리하고 후속 단계에서 사용해야 할 사실을 보존하세요. 큰 창은 멀리 떨어진 정보를 비교하는 데 유용하지만, 원하는 결과는 코드 변경, 출처 기반 설명, 추출 필드처럼 구체적이어야 합니다. 새로운 정보나 비공개 정보는 학습된 지식에 포함되어 있다고 가정하지 말고 제공한 근거나 반환된 검색 결과에 포함해야 합니다.

사고 노력 수준은 제어할 수 있습니다. 제작사 제품군 가이드는 0.0 이상 1.0 미만의 연속 값을 사용하며, 시작 프리셋 none, minimal, low, medium, high, xhigh는 각각 0.0, 0.1, 0.2, 0.7, 0.9, 0.99에 대응합니다. 제작사 렌더러 기본값은 high입니다. 높은 노력 수준은 더 많은 추론을 유도하고 더 큰 생성 예산을 필요로 할 수 있지만, 더 길거나 정확한 답변을 보장하지는 않습니다. 0 설정은 추론을 강제로 없애는 대신 추론하지 않는 방향으로 유도합니다. 작업에 맞춰 노력 수준을 선택하고 최종 출력 요구사항을 명확히 유지하세요.

이미지는 시각적 질문, 차트나 도표 해석, 눈에 보이는 정보로부터의 수학적 추론을 지원할 수 있습니다. 좋은 성능을 위해 크기가 40~4,096픽셀인 이미지를 사용하세요. 읽을 수 있는 라벨을 보존하고 중요한 세부 사항을 설명하세요. 설정된 Python 도구가 있으면 모델은 시각 추론에 문서나 차트의 자르기, 확대, 프로그래밍 방식의 검사를 결합할 수 있습니다. 이러한 작업은 연결된 도구 환경에서 실행되어야 하며, 서면 답변은 그 환경이 반환한 관찰 결과를 사용해야 합니다.

오디오 입력은 16 kHz로 샘플링한 WAV이며, 최적 성능을 위해 이상적으로 2분 미만의 녹음을 사용합니다. 이는 입력 준비 권장사항이지 길이에 대한 엄격한 보장이 아닙니다. 관련된 음성 질문이나 짧은 클립을 사용하고, 서면 결과가 음성을 전사해야 하는지, 녹음에 관한 질문에 답해야 하는지, 내용을 다른 제공 자료와 연결해야 하는지 명시하세요. 기본 응답은 생성 음성이 아니라 텍스트입니다. 더 긴 오디오에 관한 Inkling의 별도 권장사항을 Small 버전에 옮겨 적용해서는 안 됩니다.

도구 사용 워크플로에는 의미 있는 도구 설명, 인수 정의, 애플리케이션이 실행한 작업의 결과가 필요합니다. 조회 결과, 계산, 파일 관찰 결과를 모델이 제안한 행동과 구분하세요. 차트의 불일치를 다룰 때는 관련 라벨을 지정하고 계산 도구로 제공된 값을 살펴본 다음, 그 값을 인용하는 설명을 요청하세요. 모델은 다양한 코딩·에이전트 하네스를 위해 학습되었으므로 주변 작업과 도구를 암묵적으로 두지 말고 설명해야 합니다.

공개 가중치는 모델 연구, 파인튜닝, 후속 제품 통합을 지원합니다. Inkling-Small 릴리스는 이전 preview 체크포인트 이후에 나오며 에이전트 코딩을 위한 추가 학습을 포함합니다. 최종 모델과 해당 preview는 별도 식별 정보를 유지해야 합니다. 특화된 추출 또는 응답 스타일을 위한 맞춤화는 대표 예시와 명시적인 목표 동작을 사용합니다. 반면 일반 프롬프트는 현재 요청에 필요한 맥락을 제공할 뿐, 새로 학습한 모델을 생성하거나 그 모델로 전환하지 않습니다.

유용한 결과 검토 단계는 제안된 코드 변경, 전사문, 추출 사실, 서면 응답이 제공한 근거와 일치하는지 확인합니다. 특히 출처가 불완전한 예측이나 사실 답변에서는 불확실성과 누락 정보를 어떻게 표시할지 지정하세요. 제조사는 실제 질문에 대한 적정 점수 규칙을 기준으로 강화 학습을 수행하여 Inkling-Small의 예측을 보정했으며, 가용 근거에 맞는 확신을 표현하는 것을 목표로 합니다. 후속 대화에서 원래 작업을 잃지 않고 한 가지 문제를 수정할 수 있도록 결과물과 함께 자료 및 도구 관찰 결과를 보존하세요. Inkling-Small의 일반 다국어·멀티모달 역량은 전용 음성 생성기나 외부 작업을 보장하는 서비스와 구분됩니다.