Cohere: North Mini Code (free)

North Mini Code 1.0은 에이전트 기반 소프트웨어 엔지니어링, 터미널 작업, 코드 생성을 위한 Cohere의 모델입니다. 텍스트를 입력받아 코드, 설명, 도구 요청을 포함한 텍스트를 생성합니다. 제조사는 가중치를 Apache 2.0으로 공개했으며 North 코드 에이전트 계열의 첫 모델이라고 명시합니다. 이미지 이해 모델이나 일반적인 의사결정 점수 모델이 아닌 코딩 특화 프로필입니다.

희소 아키텍처와 코딩 준비

모델은 총 30B 파라미터와 약 3B의 활성 파라미터를 갖습니다. 디코더 전용 Transformer는 전문가 128개 중 토큰당 8개가 활성화되는 희소 전문가 혼합을 사용하며, 희소 레이어 앞에 밀집 레이어가 있습니다. 회전 위치를 사용하는 슬라이딩 윈도 어텐션과 위치 임베딩 없는 글로벌 어텐션이 3:1 비율로 교차 배치됩니다. 활성 파라미터 수는 토큰에 사용되는 연산량을 설명하며 저장해야 할 전체 가중치 집합을 뜻하지 않습니다.

Cohere의 후속 훈련은 두 단계의 지도 미세조정 후 검증 가능한 보상을 이용한 강화 학습을 수행하며, 소프트웨어 엔지니어링과 터미널 작업에 초점을 맞춥니다. 제작사는 하나의 고정된 구조 대신 여러 에이전트 실행 환경에 걸쳐 훈련한다고 설명합니다. 이는 필요한 동작과 사용 가능한 도구를 중심으로 작업을 준비하는 데 도움이 되며, 주변 실행 환경은 파일 확보, 명령 실행, 관찰 반환을 계속 담당합니다.

저장소 수준 변경 준비하기

현재 코드와 동작, 요청한 변경, 관련 파일 또는 인터페이스 경계, 완료를 입증할 근거를 제공하세요. 버그에서는 관찰한 오류나 실패하는 입력과 기대 결과를 포함하세요. 기능에서는 필수 동작과 호환성 제약을 명시하세요. 유용한 최종 결과물은 설명 및 실제로 실행한 확인 결과가 포함된 코드 변경 제안입니다.

요청 예시로 기존 형식을 유지하면서 추가로 지원할 입력을 처리하도록 파서를 수정하게 할 수 있습니다. 대표 입력과 파서 동작을 정의하는 저장소 부분을 명시하세요. 모델은 코드와 도구 관찰을 이용해 변경을 개발할 수 있습니다. 생성된 패치나 명령이 실행되어야 한다는 설명은 그 명령이 성공했다는 근거가 아닙니다.

터미널 도구와 구조화된 관찰

네이티브 모델 카드는 도구 사용 훈련을 문서화하고 모델의 채팅 템플릿을 통한 JSON 스키마 도구 설명을 권장합니다. 도구의 목적과 인수를 명확히 설명하세요. 명령 실행 도구는 실제 출력과 상태를 반환할 수 있으며, 파일 검사 도구는 다음 단계에 필요한 자료를 반환할 수 있습니다. 각 도구 결과를 호출 식별자와 연결해 후속 분석에서 의도한 관찰을 사용하도록 하세요.

제작사 예시는 도구 호출과 어시스턴트 추론을 이력에 보존하고, 도구를 실행한 뒤 결과를 추가하고 다시 생성합니다. 네이티브 템플릿 예시는 도구 결과에 구조화된 사전을 사용합니다. 무관한 모든 API가 같은 방식으로 도구 결과를 직렬화한다고 가정하지 말고 문서화된 통합에 따라 표현을 유지하세요. 도구 인수를 설명하는 JSON 스키마는 임의 스키마로 제한된 최종 출력을 지원한다고 주장하는 것과 다릅니다.

교차 진행되는 사고와 다중 턴 이력

North Mini Code는 교차 진행되는 사고를 지원하며, 제작사는 에이전트 작업에 이를 활성화하도록 권장합니다. 모델이 생성한 사고 내용과 도구 호출을 후속 에이전트 단계 및 대화 턴으로 전달하세요. 네이티브 예시는 어시스턴트 메시지에 reasoning 필드를 유지하고 그 뒤에 대응하는 도구 관찰을 반환합니다. 이는 모델이 다음 검사나 변경을 결정할 때 사용한 정보를 보존합니다.

현재 목표, 원본 자료, 실제 관찰을 작업 이력에 유지하세요. 긴 저장소 작업에서는 검토에 필요한 근거를 보존하면서 변경된 동작과 유용한 결과물을 중심으로 최종 결과를 요약하세요. 교차 추론은 짧게 보이는 답변에 분석이 필요 없었다는 뜻도, 모델이 설명한 동작이 이미 발생했다는 증거도 아닙니다.

독립적인 코드 및 설명 작업

제작사는 에이전트 루프 밖의 과학 코딩과 알고리즘 추론도 명시합니다. 문제 정의, 입력 및 출력 형식, 제약, 관련 수치 가정, 경계 상황의 기대 동작을 제공하세요. 필요한 결과물이 완전한 함수나 프로그램이면 이를 요청하고 독자에게 필요한 수준의 설명을 함께 요청하세요.

코드 설명에서는 구현과 명확히 할 특정 동작 또는 의존 관계를 제공하세요. 데이터 시각화 코드에서는 차트 목적을 암묵적으로 두지 말고 제공한 필드와 의도한 비교를 명시하세요. 제작사 개발 예시에는 코드 설명, 편집, 시각화, 사양에서의 구현이 포함됩니다. 이는 코드 생성 또는 수정의 작업 패턴이며 모든 저장소나 프레임워크에서 올바른 결과를 보장하는 것은 아닙니다.

컨텍스트, 출력, 생성 설정

제조사 모델 카드와 API 페이지는 256K토큰 컨텍스트 창과 최대 64K토큰 출력을 명시합니다. 이 별도 허용량과 최종 결과물 크기를 중심으로 상당한 양의 저장소 자료를 준비하세요. 원본 경계와 식별자를 온전히 유지하고, 큰 창이 초점 있는 작업 지시의 필요성을 없앤다고 가정하지 말고 무관한 자료를 제거하세요.

네이티브 모델 카드는 생성에 temperature 1.0과 top_p 0.95를 권장하며, 텍스트 및 도구 워크플로에 생성 프롬프트를 포함한 모델 채팅 템플릿을 사용합니다. 예시 출력 제한은 해당 예시의 설정이며 공개된 모델 최대값을 대체하지 않습니다. Cohere는 BF16 가중치와 별도로 이름이 지정된 FP8 결과물을 공개합니다. 배포를 준비할 때 적절한 결과물을 선택하세요.

유용한 North Mini Code 결과는 제공한 요구 사항에 연결된 검토 가능한 코드 결과물이나 기술 설명입니다. 결과를 원래 동작 및 실제 도구 출력과 비교하고, 코드에 영향을 주는 가정을 확인하며, 검토에 필요한 원본과 관찰을 보존하세요. 텍스트 전용 코딩 모델은 추론과 생성된 콘텐츠를 제공합니다. 제안을 완료된 소프트웨어 작업으로 바꾸는 실제 작업은 주변 애플리케이션이 수행합니다.