Thinking Machines: Inkling Small (free)

Inkling-Small to mniejszy multimodalny model o otwartych wagach Thinking Machines Lab do rozumowania, programowania, rozmów i aplikacji korzystających z narzędzi. Przyjmuje tekst, obrazy i audio oraz tworzy tekst. Architektura Mixture-of-Experts ma 276 mld parametrów łącznie, z 12 mld aktywnych, wobec 975 mld łącznie i 41 mld aktywnych w Inkling. Small jest osobnym opublikowanym modelem o innej równowadze wydajności i możliwości, a nie trybem krótszej odpowiedzi Inkling.

W badaniu kodu dostarcz odpowiednie pliki, zaobserwowane zachowanie i potrzebną zmianę, a następnie poproś o wskazanie odpowiedzialnej ścieżki i precyzyjną poprawkę. Przydatny artefakt końcowy zawiera proponowaną edycję i dowody z kontroli rzeczywiście uruchomionych przez połączoną aplikację. Dla asystenta wsparcia dostarcz odpowiednią politykę i fakty z rozmowy oraz poproś o następną odpowiedź lub brakujące pytanie. Przewidziane zastosowania modelu obejmują asystentów programowania, chatboty, odpowiedzi wspomagane wyszukiwaniem i systemy agentowe z narzędziami aplikacji.

Okno kontekstu wynosi do miliona tokenów. Uporządkuj obszerne repozytorium lub zbiór dokumentów za pomocą nazw plików, oznaczeń sekcji i jasnego pytania, zachowując fakty potrzebne na późniejszym etapie. Duże okno pomaga porównywać odległe informacje, ale oczekiwany wynik powinien pozostać konkretny: zmiana kodu, wyjaśnienie oparte na źródłach lub wyodrębnione pola. Nowe lub prywatne informacje powinny znajdować się w dostarczonych dowodach albo zwróconych wynikach wyszukiwania, zamiast być uznawane za część wyuczonej wiedzy.

Wysiłek rozumowania jest regulowany. Poradnik rodziny producenta używa wartości ciągłych od 0.0 włącznie do wartości poniżej 1.0, z początkowymi ustawieniami none, minimal, low, medium, high i xhigh odpowiadającymi 0.0, 0.1, 0.2, 0.7, 0.9 i 0.99. Renderer producenta domyślnie używa high. Większy wysiłek może sprzyjać dłuższemu rozumowaniu i wymagać większego budżetu generowania, ale nie gwarantuje dłuższej ani dokładniejszej odpowiedzi. Ustawienie zerowe ukierunkowuje model na brak rozumowania zamiast narzucać jego bezwzględny brak. Dobierz wysiłek do zadania i utrzymuj jasne wymaganie dotyczące wyniku końcowego.

Obrazy mogą wspierać pytania wizualne, interpretację wykresów lub diagramów i rozumowanie matematyczne na podstawie widocznych informacji. Dla dobrej jakości używaj obrazów o wymiarach od 40 do 4 096 pikseli. Zachowaj czytelne etykiety i wyjaśnij istotny szczegół. Dzięki skonfigurowanemu narzędziu Python model może łączyć rozumowanie wizualne z kadrowaniem, powiększaniem i programowym badaniem dokumentu lub wykresu. Te operacje wymagają wykonania przez połączone środowisko narzędziowe; odpowiedź pisemna powinna korzystać z otrzymanych obserwacji.

Wejście audio to WAV z próbkowaniem 16 kHz, z nagraniami najlepiej poniżej dwóch minut dla optymalnej jakości. Jest to zalecenie przygotowania, a nie twarda gwarancja długości. Użyj odpowiedniego pytania mówionego lub krótkiego klipu i określ, czy wynik pisemny ma transkrybować mowę, odpowiadać na pytanie o nagranie czy odnosić jego treść do innych dostarczonych materiałów. Natywną odpowiedzią jest tekst, a nie wygenerowana mowa. Osobnego zalecenia Inkling dotyczącego dłuższego audio nie należy przenosić do wydania Small.

Procesy korzystające z narzędzi wymagają znaczących opisów narzędzi, definicji argumentów i wyników operacji wykonywanych przez aplikację. Oddziel wynik wyszukania, obliczenia lub obserwacji pliku od proponowanego działania modelu. W przypadku rozbieżności na wykresie wskaż odpowiednie etykiety, zbadaj podane wartości narzędziem obliczeniowym i poproś o wyjaśnienie odwołujące się do tych wartości. Model trenowano dla różnych środowisk programistycznych i agentowych, więc zadanie i narzędzia należy opisać, zamiast pozostawiać je domyślne.

Otwarte wagi wspierają badania modeli, dostrajanie i integrację w produktach docelowych. Wydanie Inkling-Small następuje po wcześniejszej wersji preview i obejmuje dalszy trening do programowania agentowego; model końcowy i preview powinny zachować osobne tożsamości. Dla wyspecjalizowanej ekstrakcji lub stylu odpowiedzi dostosowywanie wykorzystuje reprezentatywne przykłady i wyraźne docelowe zachowanie. Zwykły prompt dostarcza natomiast kontekst bieżącego żądania; nie tworzy nowo wytrenowanego modelu ani na niego nie przełącza.

Przydatna weryfikacja wyniku sprawdza, czy proponowana zmiana kodu, transkrypcja, wyodrębnione fakty lub odpowiedź pisemna odpowiadają dostarczonym dowodom. Określ sposób przedstawiania niepewności i brakujących informacji, zwłaszcza przy prognozie lub odpowiedzi faktograficznej opartej na niepełnym źródle. Producent trenował Inkling-Small do kalibracji prognoz, stosując uczenie ze wzmocnieniem względem właściwych reguł punktacji na rzeczywistych pytaniach, aby wyrażana pewność odpowiadała dostępnym dowodom. Zachowaj materiał i obserwacje narzędzi przy artefakcie, aby kolejne pytanie mogło poprawić jedną kwestię bez utraty pierwotnego zadania. Ogólne możliwości wielojęzyczne i multimodalne Inkling-Small pozostają odrębne od dedykowanego generatora mowy lub usługi gwarantującej działania zewnętrzne.