Amazon mengumumkan ketersediaan Amazon Bedrock Model Distillation dalam pratinjau, yang mengotomatiskan proses pembuatan model suling untuk kasus penggunaan spesifik Anda dengan menghasilkan respons dari model dasar besar (FM) yang disebut model guru dan menyempurnakan FM yang lebih kecil yang disebut model siswa dengan respons yang dihasilkan. Ini menggunakan teknik sintesis data untuk meningkatkan respons dari model guru. Amazon Bedrock kemudian menghosting model suling akhir untuk inferensi, memberi Anda model yang lebih cepat dan lebih hemat biaya dengan akurasi yang mendekati model guru, untuk kasus penggunaan Anda. Saya sangat terkesan dengan fitur baru ini. Saya pikir ini akan sangat membantu bagi pelanggan yang ingin menggunakan model AI generatif tetapi khawatir tentang latensi dan biaya. Dengan menyuling model besar menjadi model yang lebih kecil, pelanggan dapat mengurangi latensi dan biaya sambil mempertahankan akurasi. Saya pikir fitur ini akan menjadi pengubah permainan di bidang AI generatif.