Cohere: North Mini Code (free)

North Mini Code 1.0 to model Cohere do agentowej inżynierii oprogramowania, zadań terminalowych i generowania kodu. Przyjmuje tekst i tworzy tekst, w tym kod, wyjaśnienia i żądania wywołania narzędzi. Producent wydał wagi na licencji Apache 2.0 i określa go jako pierwszy model rodziny agentów kodowych North. To wyspecjalizowany profil programistyczny, a nie model rozumienia obrazów lub ogólny model oceny decyzji.

Rzadka architektura i przygotowanie do programowania

Model ma 30 miliardów parametrów ogółem, z około 3 miliardami aktywnych. Jego Transformer z samym dekoderem wykorzystuje rzadką architekturę Mixture of Experts ze 128 ekspertami, ośmioma aktywowanymi na token, i warstwą gęstą przed warstwami rzadkimi. Mechanizm uwagi z przesuwającym się oknem i rotacyjnym kodowaniem pozycji jest przeplatany z mechanizmem uwagi globalnej bez embeddingów pozycyjnych w proporcji 3:1. Liczba parametrów aktywnych opisuje obliczenia wykonywane dla tokena, a nie cały zestaw wag wymagający przechowywania.

Dalszy trening prowadzony przez Cohere obejmuje dwa etapy nadzorowanego dostrajania, a następnie uczenie ze wzmocnieniem z weryfikowalnymi nagrodami, ukierunkowane na inżynierię oprogramowania i pracę w terminalu. Producent opisuje trening z wieloma środowiskami agentowymi zamiast jednego stałego szkieletu. Pozwala to przygotować zadanie z uwzględnieniem wymaganego zachowania i dostępnych narzędzi, przy czym środowisko wykonawcze nadal odpowiada za pozyskiwanie plików, wykonywanie poleceń i zwracanie obserwacji.

Przygotuj zmianę na poziomie repozytorium

Dostarcz bieżący kod, opis jego zachowania, oczekiwaną zmianę, istotne granice plików lub interfejsów oraz materiały, które potwierdzą wykonanie zadania. W przypadku usterki dołącz zaobserwowany błąd lub dane wejściowe wywołujące błąd oraz oczekiwany wynik. W przypadku nowej funkcji określ wymagane zachowanie i ograniczenia zgodności. Przydatnym końcowym materiałem jest proponowana zmiana kodu z wyjaśnieniem i wynikami kontroli, które rzeczywiście wykonano.

Przykładowe polecenie może dotyczyć dodania do parsera obsługi dodatkowych danych wejściowych przy zachowaniu istniejących formatów. Wskaż reprezentatywne wejścia i część repozytorium definiującą zachowanie parsera. Model może użyć kodu i obserwacji zwróconych przez narzędzia do opracowania zmiany; wygenerowana poprawka lub stwierdzenie, że polecenie powinno się uruchomić, nie dowodzi powodzenia polecenia.

Narzędzia terminalowe i ustrukturyzowane obserwacje

Natywna karta modelu dokumentuje trening używania narzędzi i zaleca przekazywanie opisów narzędzi w formacie JSON Schema za pośrednictwem szablonu rozmowy modelu. Jasno opisz cel i argumenty narzędzia. Narzędzie wykonywania poleceń może zwracać rzeczywiste wyjście i status, a narzędzie sprawdzania plików może zwrócić materiał potrzebny do kolejnego kroku. Zachowaj każdy wynik narzędzia w powiązaniu z identyfikatorem wywołania, aby późniejsza analiza korzystała z właściwej obserwacji.

Przykład producenta zachowuje wywołanie narzędzia i rozumowanie asystenta w historii, uruchamia narzędzie i dodaje jego wynik przed kolejnym generowaniem. Przykład natywnego szablonu używa ustrukturyzowanego słownika dla wyniku narzędzia. Zachowaj tę reprezentację zgodnie z udokumentowaną integracją, zamiast zakładać, że dowolne inne API serializuje wyniki narzędzi w ten sam sposób. Schemat JSON opisujący argumenty narzędzia nie oznacza obsługi dowolnego końcowego wyniku wymuszanego schematem.

Przeplatane rozumowanie i historia rozmowy obejmującej wiele tur

North Mini Code obsługuje przeplatane rozumowanie, które producent zaleca włączyć do pracy agentowej. Przenoś wygenerowaną przez model treść rozumowania i wywołania narzędzi do kolejnych kroków agenta i tur rozmowy. Natywny przykład zachowuje pole reasoning przy wiadomości asystenta, a następnie zwraca odpowiednią obserwację narzędzia. Zachowuje to informacje użyte przez model przy podejmowaniu decyzji, co sprawdzić lub zmienić dalej.

Zachowuj w historii zadania bieżący cel, materiał źródłowy i rzeczywiste obserwacje. Przy dłuższym zadaniu dotyczącym repozytorium oprzyj podsumowanie końcowego wyniku na zmienionym zachowaniu i przydatnym rezultacie pracy, zachowując materiały potrzebne do jego sprawdzenia. Przeplatane rozumowanie nie oznacza, że krótka widoczna odpowiedź nie wymagała analizy, ani nie dowodzi, że działanie opisane przez model już nastąpiło.

Samodzielne zadania programistyczne i objaśnianie kodu

Producent wskazuje także programowanie naukowe i rozumowanie algorytmiczne poza pętlą agenta. Dostarcz definicję problemu, format wejścia i wyjścia, ograniczenia, istotne założenia liczbowe i oczekiwane zachowanie w przypadkach brzegowych. Poproś o kompletną funkcję lub program, gdy taki materiał jest potrzebny, z wyjaśnieniem na poziomie wymaganym przez odbiorcę.

Przy wyjaśnianiu kodu dostarcz implementację i konkretne zachowanie lub zależność do objaśnienia. Przy kodzie wizualizacji danych wskaż dostarczone pola i zamierzone porównanie, zamiast pozostawiać cel wykresu niedopowiedziany. Przykłady deweloperskie producenta obejmują wyjaśnianie kodu, edycję, wizualizację i implementację ze specyfikacji. To wzorce zadań generowania lub modyfikacji kodu, a nie obietnica poprawnych wyników dla każdego repozytorium lub frameworka.

Kontekst, wyjście i ustawienia generowania

Karta modelu i strona API producenta podają okno kontekstu 256K tokenów i maksymalne wyjście 64K tokenów. Przygotuj obszerny materiał repozytorium z uwzględnieniem tych osobnych limitów i rozmiaru końcowego materiału. Zachowaj granice źródeł i identyfikatory oraz usuń nieistotny materiał, zamiast zakładać, że duże okno eliminuje potrzebę precyzyjnego opisu zadania.

Natywna karta modelu zaleca temperature 1.0 i top_p 0.95 do generowania oraz używa szablonu rozmowy modelu, w tym polecenia generowania, dla przepływów tekstowych i narzędziowych. Przykładowe limity wyjścia są ustawieniami tych przykładów, a nie zamiennikiem opublikowanego maksimum modelu. Cohere publikuje wagi BF16 i osobno nazwany artefakt FP8. Wybierz odpowiedni artefakt przy przygotowaniu wdrożenia.

Przydatnym wynikiem North Mini Code jest kod, który można sprawdzić, lub wyjaśnienie techniczne powiązane z dostarczonymi wymaganiami. Porównaj wynik z oryginalnym zachowaniem i rzeczywistym wyjściem narzędzia, sprawdź założenia wpływające na kod i zachowaj źródła oraz obserwacje potrzebne do przeglądu. Tekstowy model programistyczny dostarcza rozumowanie i wygenerowaną treść; aplikacja, w której model działa, wykonuje operacje przekształcające te propozycje w ukończone zadanie programistyczne.