Amazon Web Services (AWS) mengumumkan Automated Reasoning checks (pratinjau), sebuah perlindungan baru di Amazon Bedrock Guardrails untuk membantu mengurangi halusinasi dalam model bahasa besar (LLM) dengan memvalidasi keakuratan respons mereka secara matematis. Ini memanfaatkan penalaran otomatis, sebuah bidang dalam ilmu komputer yang menggunakan bukti matematis dan deduksi logis untuk memverifikasi perilaku sistem dan program. Tidak seperti pembelajaran mesin (ML), yang membuat prediksi, penalaran otomatis memberikan jaminan matematis tentang perilaku sistem. AWS sudah menggunakan penalaran otomatis di area layanan utama seperti penyimpanan, jaringan, virtualisasi, identitas, dan kriptografi. Misalnya, penalaran otomatis digunakan untuk memverifikasi secara formal kebenaran implementasi kriptografi, meningkatkan kinerja dan kecepatan pengembangan. Sekarang, AWS menerapkan pendekatan serupa untuk AI generatif. Automated Reasoning checks (pratinjau) yang baru di Amazon Bedrock Guardrails adalah perlindungan AI generatif pertama yang membantu mencegah kesalahan faktual dari halusinasi menggunakan penalaran yang akurat secara logis dan dapat diverifikasi yang menjelaskan mengapa respons AI generatif benar. Automated Reasoning checks sangat berguna untuk kasus penggunaan di mana keakuratan faktual dan kemampuan menjelaskan penting. Misalnya, Anda dapat menggunakan Automated Reasoning checks untuk memvalidasi respons yang dihasilkan LLM tentang kebijakan sumber daya manusia (SDM), informasi produk perusahaan, atau alur kerja operasional. Digunakan bersama teknik lain seperti rekayasa prompt, Retrieval-Augmented Generation (RAG), dan pemeriksaan landasan kontekstual, Automated Reasoning checks menambahkan pendekatan yang lebih ketat dan dapat diverifikasi untuk memastikan bahwa output yang dihasilkan LLM akurat secara faktual. Dengan mengkodekan pengetahuan domain Anda ke dalam kebijakan terstruktur, Anda dapat memastikan bahwa aplikasi AI percakapan Anda memberikan informasi yang andal dan tepercaya kepada pengguna Anda.