10. GPT4ALL
Last updated
Last updated
adalah ekosistem chatbot open source yang dilatih dengan sejumlah besar data, termasuk kode dan percakapan dalam format chat.
Dalam contoh ini, dijelaskan bagaimana cara berinteraksi dengan model GPT4All
menggunakan LangChain.
Pertama, buka situs web resmi untuk mengunduh dan menginstal file instalasi
Instal paket Python.
Unduh model yang tersedia dari halaman resmi. Disarankan untuk memilih model yang sesuai dengan spesifikasi PC Anda.
Dalam tutorial ini, kami akan mengunduh dan menggunakan model llama3.1 8B Instruct (4.34 GB)
.
Setelah diunduh, buat folder models
dan simpan model yang diunduh ke dalam folder tersebut.
Tetapkan variabel local_path
dengan jalur file lokal ("./models/Metta-Llama-3-8b-Instruct.Q4_0.gguf").
Jalur ini dapat diganti dengan jalur file lokal yang diinginkan oleh pengguna.
Unduh model dalam format GGML yang kompatibel untuk dijalankan secara lokal.
Pilih model yang Anda minati.
Unduh menggunakan UI dan pindahkan file .bin
ke local_path
(lihat di bawah).
GPT4All
adalah model bahasa besar yang mirip dengan GPT-3 yang dapat digunakan untuk berbagai tugas pemrosesan bahasa alami.
Modul ini memudahkan untuk memuat model GPT4All dan menggunakannya untuk inferensi.
Buka situs web resmi
Halaman memiliki bagian Model Explorer
. (Untuk informasi lebih lanjut, kunjungi ).