Thinking Machines: Inkling (free)

Inkling ialah model multimodal dengan pemberat terbuka Thinking Machines Lab untuk penaakulan, pengekodan, perbualan dan aplikasi berejen. Ia menerima teks, imej dan audio serta mengembalikan teks. Reka bentuk Mixture-of-Expertsnya mempunyai 975 bilion jumlah parameter dan 41 bilion yang aktif, menjadikannya model yang lebih besar dalam keluarga. Inkling-Small ialah model berasingan dengan 276 bilion parameter dan 12 bilion yang aktif, bukannya tetapan yang mengubah panjang respons Inkling.

Untuk tugasan kod yang besar, berikan bahan repositori yang berkaitan, tingkah laku yang diperhatikan dan hasil yang dikehendaki. Minta model menelusuri laluan yang bertanggungjawab, mencadangkan perubahan dan melaporkan bukti daripada semakan yang benar-benar dijalankan dalam persekitaran yang disambungkan. Untuk perbandingan dokumen, labelkan bahagian sumber dan minta perbezaan yang berkaitan, bukti sokongannya dan sebarang soalan yang belum terjawab. Aplikasi yang dimaksudkan termasuk pembantu pengekodan, chatbot, penjanaan diperkaya pemerolehan maklumat dan ejen yang menggunakan alat, dengan hasil akhir dibentuk untuk aplikasi yang memprosesnya.

Inkling menyokong sehingga satu juta token konteks. Gunakan ruang itu untuk menyatukan bahan sumber yang banyak dan fakta perbualan yang penting, sambil menyusunnya berdasarkan soalan tertentu. Bezakan fakta sumber daripada andaian dan sediakan ruang untuk artifak bertulis yang lengkap. Konteks yang lebih besar menyokong kerja merentas koleksi yang luas; ia tidak menjadikan jawapan sebagai paparan langsung sistem yang maklumat semasanya belum dibekalkan.

Usaha pemikiran ialah kawalan berterusan daripada 0.0 secara inklusif hingga kurang daripada 1.0. Pratetap permulaan pengeluar ialah none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 dan xhigh 0.99, dengan high sebagai lalai pemapar. Usaha dan belanjawan token penjanaan adalah bebas. Usaha yang lebih tinggi boleh menggalakkan lebih banyak penaakulan dan memerlukan lebih banyak ruang sebelum jawapan akhir, manakala none mengarahkan model ke arah tanpa penaakulan tanpa menguatkuasakan sekatan keras. Pilih nilai yang sesuai dengan tugasan, dan nyatakan artifak yang dijangkakan serta syarat penyiapan dengan jelas.

Input penglihatan menyokong huraian imej, soalan tentang kandungan yang kelihatan, carta, rajah dan penaakulan visual matematik. Untuk prestasi yang baik, gunakan dimensi imej antara 40 hingga 4,096 piksel. Pastikan label dan konteks rajah yang berkaitan jelas dibaca. Inkling boleh menggunakan alat Python yang dikonfigurasi untuk mengezum, memangkas atau memeriksa imej secara berprogram, menghubungkan pemerhatian visual dengan penaakulan berasaskan kod. Jawapan carta yang berguna mengekalkan nilai yang diperhatikan dan menunjukkan cara nilai itu menyokong kesimpulan, tanpa menganggap pemangkasan atau pengiraan telah berlaku hanya kerana ia dicadangkan.

Input audio menggunakan WAV yang disampel pada 16 kHz, dan pengeluar mengesyorkan rakaman dalam tempoh 20 minit untuk prestasi optimum. Ini ialah cadangan penyediaan. Inkling boleh mentranskripsikan pertuturan, mengikuti arahan lisan, menjawab soalan tentang rakaman dan menaakul audio yang lebih panjang. Berikan rakaman yang berkaitan bersama soalan bertulis dan sebarang bahan rujukan yang diperlukan untuk mentafsirkannya. Artifak berkaitan mesyuarat boleh memisahkan fakta yang dituturkan daripada ringkasan atau pentafsiran kemudian. Model menghasilkan teks, jadi pemahaman audionya berbeza daripada sintesis jawapan pertuturan.

Untuk tugasan berasaskan alat, huraikan operasi yang tersedia dan argumennya serta kekalkan pemerhatian sebenar yang dikembalikan oleh aplikasi. Hasil carian boleh membekalkan bukti semasa; pengiraan boleh membekalkan kerja berangka; operasi fail boleh memastikan kandungan yang sedang disemak. Tindakan yang dicadangkan oleh model dan hasil yang dilaksanakan ialah bahagian perbualan yang berasingan. Pastikan respons akhir berkaitan dengan pemerhatian tersebut, khususnya apabila ia mencadangkan perubahan kod atau langkah aplikasi seterusnya.

Inkling dilatih untuk penentukuran dan pematuhan arahan, termasuk menyatakan ketidakpastian apabila jawapan belum dapat dipastikan. Untuk ramalan atau analisis berasaskan bukti, minta andaian, bukti dan syarat yang belum diselesaikan dalam hasil bertulis. Untuk pengekstrakan, tetapkan cara nilai yang tiada perlu diwakilkan tanpa mewajibkan setiap medan mengandungi fakta rekaan. Arahan ini menjadikan hasil berguna untuk semakan tanpa menganggap keyakinan atau proses penaakulan panjang sebagai bukti ketepatan.

Pemberat terbuka menyokong penalaan halus dan integrasi hiliran. Model khusus dibangunkan daripada contoh yang mewakili dan tingkah laku sasaran, manakala permintaan inferens biasa membekalkan konteks untuk tugasan semasa. Pengeluar menunjukkan penyesuaian sebagai aliran kerja berasingan; jawapan biasa tidak bertukar secara senyap kepada pemberat baharu. Kekalkan bukti asal dan kekangan yang diminta bersama artifak akhir supaya susulan boleh menyemak satu fakta, memperhalusi ungkapan atau memeriksa laluan kod yang berbeza sambil memastikan tugasan yang sama kekal koheren.