Thinking Machines: Inkling (free)

Inkling to multimodalny model o otwartych wagach firmy Thinking Machines Lab do rozumowania, programowania, rozmów i aplikacji agentowych. Przyjmuje tekst, obrazy i audio oraz zwraca tekst. Architektura Mixture-of-Experts ma 975 mld parametrów łącznie i 41 mld aktywnych, co czyni go większym modelem w rodzinie. Inkling-Small to osobny model o 276 mld parametrów i 12 mld aktywnych, a nie ustawienie zmieniające długość odpowiedzi Inkling.

W obszernym zadaniu programistycznym podaj odpowiedni materiał z repozytorium, zaobserwowane zachowanie i pożądany wynik. Poproś model o prześledzenie odpowiedzialnej ścieżki, zaproponowanie zmiany i przedstawienie dowodów z kontroli, które rzeczywiście uruchomiono w połączonym środowisku. Przy porównaniu dokumentów oznacz sekcje źródłowe i poproś o istotne różnice, wspierające je dowody oraz pytania bez odpowiedzi. Przewidziane zastosowania obejmują asystentów programowania, chatboty, generowanie wspomagane wyszukiwaniem i agentów korzystających z narzędzi, z wynikiem końcowym dostosowanym do aplikacji, która go wykorzystuje.

Inkling obsługuje do miliona tokenów kontekstu. Wykorzystaj tę przestrzeń, aby przechowywać razem obszerny materiał źródłowy i ważne fakty z rozmowy, porządkując je wokół konkretnego pytania. Odróżniaj fakty źródłowe od założeń i pozostaw miejsce na kompletny artefakt pisemny. Większy kontekst wspiera pracę z rozbudowanym zbiorem; nie zmienia odpowiedzi w aktualny obraz systemu, którego bieżących informacji nie dostarczono.

Wysiłek rozumowania jest regulowany płynnie od 0.0 włącznie do wartości poniżej 1.0. Początkowe ustawienia producenta to none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 i xhigh 0.99, z high jako domyślnym ustawieniem renderera. Wysiłek i budżet tokenów generowania są niezależne. Większy wysiłek może sprzyjać dłuższemu rozumowaniu i wymagać więcej miejsca przed odpowiedzią końcową, natomiast none ukierunkowuje model na brak rozumowania bez narzucania twardego ograniczenia. Dobierz wartość do zadania i wyraźnie określ oczekiwany artefakt oraz warunek ukończenia.

Wejście wizualne obsługuje opis obrazu, pytania o widoczną treść, wykresy, diagramy i matematyczne rozumowanie wizualne. Dla dobrej jakości używaj obrazów o wymiarach od 40 do 4 096 pikseli. Zachowaj czytelność istotnych etykiet i kontekstu diagramu. Inkling może korzystać ze skonfigurowanego narzędzia Python do powiększania, kadrowania lub programowego badania obrazu, łącząc obserwacje wizualne z rozumowaniem opartym na kodzie. Przydatna odpowiedź o wykresie zachowuje odczytane wartości i pokazuje, jak wspierają wniosek, zamiast zakładać wykonanie kadrowania lub obliczenia tylko dlatego, że je zaproponowano.

Wejście audio wykorzystuje WAV z próbkowaniem 16 kHz, a producent zaleca nagrania do 20 minut dla optymalnej jakości. Jest to zalecenie przygotowania. Inkling może transkrybować mowę, wykonywać instrukcje ustne, odpowiadać na pytania o nagrania i rozumować na podstawie dłuższego audio. Dostarcz odpowiednie nagranie wraz z pisemnym pytaniem i materiałem referencyjnym potrzebnym do jego interpretacji. Artefakt dotyczący spotkania może oddzielać wypowiedziane fakty od późniejszego podsumowania lub interpretacji. Model tworzy tekst, więc rozumienie audio jest odrębne od syntezy odpowiedzi mówionej.

W zadaniu opartym na narzędziach opisz dostępne operacje i ich argumenty oraz zachowuj rzeczywiste obserwacje zwracane przez aplikację. Wynik wyszukiwania może dostarczać aktualne dowody; obliczenie — pracę liczbową; operacja na pliku — ustaloną zawartość do sprawdzenia. Proponowane działanie modelu i wykonany wynik są osobnymi częściami rozmowy. Powiąż odpowiedź końcową z tymi obserwacjami, zwłaszcza gdy sugeruje zmianę kodu lub następny krok aplikacji.

Inkling trenowano pod kątem kalibracji i wykonywania instrukcji, w tym wyrażania niepewności, gdy odpowiedź nie jest ustalona. Przy prognozie lub analizie opartej na dowodach poproś o założenia, dowody i nierozstrzygnięte warunki w wyniku pisemnym. Przy ekstrakcji określ sposób przedstawienia brakującej wartości, zamiast wymagać wymyślonego faktu w każdym polu. Te instrukcje czynią wynik przydatnym do weryfikacji bez traktowania pewności lub długiego rozumowania jako dowodu poprawności.

Otwarte wagi umożliwiają dostrajanie i integrację w produktach docelowych. Wyspecjalizowany model powstaje na podstawie reprezentatywnych przykładów i docelowego zachowania, natomiast zwykłe żądanie wnioskowania dostarcza kontekst bieżącego zadania. Producent pokazuje dostosowywanie jako osobny proces; zwykła odpowiedź nie przełącza po cichu na nowe wagi. Zachowaj pierwotne dowody i wymagane ograniczenia przy artefakcie końcowym, aby kolejne pytanie mogło zmienić jeden fakt, dopracować sformułowanie lub zbadać inną ścieżkę kodu, utrzymując spójność zadania.