Thinking Machines: Inkling (free)

Inkling은 추론, 코딩, 대화, 에이전트 애플리케이션을 위한 Thinking Machines Lab의 오픈 웨이트 멀티모달 모델입니다. 텍스트, 이미지, 오디오를 입력받고 텍스트를 반환합니다. 전문가 혼합 설계는 총 파라미터 975B개, 활성 파라미터 41B개를 갖추어 제품군의 더 큰 모델에 해당합니다. Inkling-Small은 총 파라미터 276B개, 활성 파라미터 12B개의 별도 모델이며 Inkling의 응답 길이를 변경하는 설정이 아닙니다.

규모 있는 코드 작업에서는 관련 저장소 자료, 관찰된 동작, 원하는 결과를 제공하세요. 문제를 담당하는 경로를 추적하고 변경을 제안하며 연결된 환경에서 실제로 실행한 확인 절차의 근거를 보고하도록 요청하세요. 문서 비교에서는 원본 섹션에 라벨을 붙이고 관련 차이점, 이를 뒷받침하는 근거, 미해결 질문을 요청하세요. 목표 애플리케이션에는 코딩 도우미, 챗봇, 검색 증강 생성, 도구 사용 에이전트가 포함되며, 최종 결과는 이를 사용하는 애플리케이션에 맞춰 구성됩니다.

Inkling은 최대 백만 컨텍스트 토큰을 지원합니다. 이 공간을 사용하여 많은 원본 자료와 중요한 대화 사실을 함께 유지하되, 특정 질문을 중심으로 정리하세요. 원본 사실과 가정을 구분하고 완전한 서면 결과물을 위한 공간을 남겨 두세요. 더 큰 컨텍스트는 방대한 자료 모음에 걸친 작업을 지원하지만, 최신 정보가 제공되지 않은 시스템을 답변이 실시간으로 보여 주도록 만들지는 않습니다.

사고 노력 수준은 0.0 이상 1.0 미만의 연속 값으로 제어합니다. 제작사의 시작 프리셋은 none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9, xhigh 0.99이며 렌더러 기본값은 high입니다. 노력 수준과 생성 토큰 예산은 서로 독립적입니다. 높은 노력 수준은 더 많은 추론을 유도하고 최종 답변 전에 더 많은 공간을 필요로 할 수 있으며, none은 강제로 제한하지 않으면서 추론을 하지 않는 방향으로 유도합니다. 과제에 맞는 값을 선택하고 예상 결과물과 완료 조건을 명확히 하세요.

시각 입력은 이미지 설명, 보이는 내용에 관한 질문, 차트, 도표, 수학적 시각 추론을 지원합니다. 좋은 성능을 위해 이미지 크기는 40~4,096픽셀을 사용하세요. 관련 라벨과 도표 맥락을 읽을 수 있도록 유지하세요. Inkling은 설정된 Python 도구를 사용하여 이미지를 프로그래밍 방식으로 확대, 자르기, 검사하고 시각적 관찰과 코드 기반 추론을 연결할 수 있습니다. 유용한 차트 답변은 자르기나 계산이 제안되었다는 이유만으로 실제로 수행되었다고 가정하지 않고, 관찰된 값을 보존하며 그 값이 결론을 어떻게 뒷받침하는지 보여 줍니다.

오디오 입력은 16 kHz로 샘플링한 WAV를 사용하며, 제조사는 최적 성능을 위해 20분 이내 녹음을 권장합니다. 이는 입력 준비 권장사항입니다. Inkling은 음성 전사, 음성 지시 이행, 녹음에 대한 질의응답, 더 긴 오디오에 대한 추론을 할 수 있습니다. 관련 녹음과 서면 질문, 해석에 필요한 참조 자료를 함께 제공하세요. 회의 관련 결과물에서는 발화된 사실과 이후의 요약 또는 해석을 구분할 수 있습니다. 모델은 텍스트를 생성하므로 오디오 이해와 음성 답변 합성은 구별됩니다.

도구 기반 과제에서는 사용 가능한 작업과 인수를 설명하고 애플리케이션이 반환한 실제 관찰 결과를 보존하세요. 검색 결과는 최신 근거를, 계산은 수치 작업을, 파일 작업은 검토 중인 내용을 제공할 수 있습니다. 모델이 제안한 행동과 실행 결과는 대화의 서로 다른 부분입니다. 특히 코드 변경이나 다음 애플리케이션 단계를 제안할 때는 최종 응답을 해당 관찰 결과와 연결하세요.

Inkling은 답변이 확립되지 않았을 때 불확실성을 표현하는 것을 포함하여 보정과 지시 이행을 위해 학습되었습니다. 근거 기반 예측이나 분석에서는 서면 결과에 가정, 근거, 미해결 조건을 포함하도록 요청하세요. 추출 작업에서는 모든 필드에 지어낸 사실을 채우도록 요구하는 대신 값이 없을 때의 표현 방식을 정의하세요. 이러한 지시는 자신감이나 긴 추론 과정을 정확성의 증거로 취급하지 않으면서 검토에 유용한 결과를 만듭니다.

공개 가중치는 파인튜닝과 후속 통합을 지원합니다. 특화 모델은 대표 예시와 목표 동작을 바탕으로 개발되는 반면, 일반 추론 요청은 현재 작업에 필요한 맥락을 제공합니다. 제작사는 맞춤화를 별도 워크플로로 시연하며, 일반 답변이 알리지 않고 새 가중치로 전환되지는 않습니다. 최종 결과물에 원래 근거와 요청한 제약 조건을 함께 보존하여 후속 대화에서 같은 과제의 일관성을 유지하면서 사실 하나를 수정하거나 표현을 다듬거나 다른 코드 경로를 살펴볼 수 있게 하세요.