Model gratis untuk OpenClaw
Ollama, LM Studio, dan inferensi lokal, serta aturan yang menentukan kapan menggunakannya
Pencarian model AI gratis untuk OpenClaw memiliki jawaban jujur dalam dua bagian. Ya: OpenClaw menjalankan model lokal melalui Ollama, LM Studio, vLLM, SGLang, dan server lokal lainnya, dan model lokal tidak memakan biaya per token. Dan tidak: dokumentasi tegas menyatakan bahwa model yang lebih kecil lebih rentan terhadap prompt injection dan penyalahgunaan alat, sehingga model gratis cocok untuk asisten yang hanya mengobrol, tetapi merupakan ide buruk untuk asisten yang menjalankan alat pada kotak masuk yang tidak Anda kendalikan. Berikut penyiapannya, aturan penemuannya, dan di mana batasnya.
Ollama
- OpenClaw berkomunikasi dengan API native Ollama, bukan endpoint yang kompatibel dengan OpenAI, yang merusak pemanggilan alat; base URL-nya adalah host tanpa path versi.
- Tiga mode: cloud ditambah lokal melalui satu host, hanya cloud, atau hanya lokal. Host lokal dan LAN tidak memerlukan token sungguhan; host jarak jauh dan Ollama Cloud memerlukan kredensial sungguhan.
- Onboarding hanya menemukan model yang sudah dimuat di memori, dengan dukungan alat dan konteks setidaknya enam belas ribu token yang sudah terkonfirmasi; model yang terinstal tetapi belum dimuat bukan kandidat, dan rutenya tetap memerlukan satu completion sungguhan sebelum disimpan.
- Model vision, inferensi lokal di node pada mesin yang disandingkan, embedding untuk pencarian memori, dan mode penelusuran web masing-masing memiliki halamannya sendiri.
LM Studio dan lainnya
LM Studio menyajikan model GGUF atau MLX dari aplikasi desktop atau daemon headless di port lokal; vLLM dan SGLang menyajikan model bagi mereka yang memiliki perangkat kerasnya; ada halaman untuk DeepSeek lokal dan untuk server lokal generik. Semuanya adalah penyedia dalam daftar yang sama dengan penyedia yang di-hosting, dipilih lewat konfigurasi, sehingga penyiapan hibrida, yaitu model lokal untuk giliran yang murah dan model frontier untuk giliran yang penting, adalah hal yang biasa.
Jangan gunakan tingkatan yang lebih lama/lebih lemah/lebih kecil untuk agen yang dilengkapi alat atau kotak masuk yang tidak tepercaya.
Aturannya
Halaman prompt injection menarik garisnya: untuk asisten pribadi yang hanya mengobrol dengan input tepercaya dan tanpa alat, model yang lebih kecil biasanya cukup; untuk bot yang dapat menjalankan alat atau menyentuh file dan jaringan, gunakan tingkatan terbaik terbaru, dan jika Anda terpaksa menggunakan model yang lebih kecil, perkecil radius dampaknya dengan alat baca-saja, sandbox yang kuat, dan daftar izin yang ketat. Prompt injection dan OpenClaw memuat argumen lengkapnya; ulasan tentang apa yang sebenarnya dilakukan agen OpenClaw menunjukkan mana saja dari kegunaan umumnya yang memerlukan alat, dan ternyata sebagian besar memerlukannya.
Perangkat keras, jujur saja
Model lokal yang dapat memanggil alat dan menampung konteks yang berguna memerlukan memori lebih yang tidak dimiliki laptop pada umumnya, dan komunitas memelihara skill mode ringan untuk mesin dengan memori dua hingga empat gigabyte justru karena OpenClaw sendiri sudah memerlukan sebagian memori tersebut. Persyaratan sistem OpenClaw membahas apa yang dibutuhkan runtime bahkan sebelum model diperhitungkan.
Di Diali
Diali tidak menyediakan hosting model lokal; setiap paket menyertakan saldo kredit AI bulanan untuk model-model terkelola, dan opsi bawa kunci sendiri mencakup sepuluh penyedia, termasuk server Ollama yang Anda jalankan sendiri dan bisa dihubungkan ke asisten OpenClaw. Itulah pertukarannya: tanpa paket gratis, dan tanpa model kecil yang diam-diam mengelola kotak masuk Anda. OpenClaw yang di-hosting di Diali adalah asistennya; kalkulator kredit AI mengubah perkiraan penggunaan sebulan menjadi angka.
- API native Ollama, model yang sudah dimuat, satu completion sungguhan sebelum disimpan.
- Lokal untuk yang hanya mengobrol; frontier untuk apa pun yang memakai alat.
- Gratis per token bukan berarti bebas dari kebutuhan memori atau risiko.
Berhenti membaca, buat agen Anda sendiri
Siapkan agen, pilih saluran, dan biarkan ia bekerja di dalam aplikasi yang sudah selalu Anda buka.
