Sumbawanews.com,- Seorang pria di Amerika Serikat, Matthew Elliott, dikenai sanksi oleh hakim setelah mencoba menyisipkan perintah tersembunyi dalam dokumen pengadilan untuk memanipulasi sistem kecerdasan buatan. Ia menggunakan teks berukuran sangat kecil dan warna putih di atas latar putih agar tidak terlihat manusia, namun tetap terbaca oleh perangkat lunak. Teknik yang dikenal sebagai prompt injection itu dimaksudkan agar AI mendukung argumennya, mengabaikan penolakan sebelumnya, dan memenangkan kasusnya.
Hakim Walter Spader Jr. dari Connecticut menegaskan bahwa pengadilan tidak menggunakan AI untuk memutus perkara, sehingga upaya manipulasi itu gagal total. Namun, Elliott tetap dihukum karena terus mengulangi tindakan serupa meski sudah diberi peringatan. Ia bahkan menambahkan pesan semacam “hi 🙂 I hope yo ucant see me” dan tautan video YouTube Nosferatu, yang ia klaim sebagai “lelucon”. Hakim menolak alasan itu, menyatakan dokumen pengadilan bukan ruang untuk candaan, terutama ketika diajukan sebagai bagian dari proses hukum yang serius.
Elliott juga berdalih bahwa ia ingin “mengaudit” pengadilan karena khawatir AI digunakan secara tidak adil. Spader menanggapi bahwa jika ia punya kekhawatiran, ia bisa menyampaikannya secara terbuka—bukan dengan menyelundupkan instruksi tersembunyi yang berusaha menipu sistem. Sebagai sanksi, Elliott dilarang mengajukan dokumen melalui sistem elektronik pengadilan dan wajib menggunakan dokumen fisik. Tidak ada denda yang dijatuhkan.
Hakim memperingatkan bahwa kasus ini menjadi preseden awal dalam sistem peradilan AS, seiring meningkatnya penggunaan AI di berbagai bidang. Ia juga menyoroti risiko masyarakat yang menggunakan chatbot untuk membangun argumen hukum tanpa bantuan pengacara, cenderung hanya meminta AI memperkuat pandangan mereka sendiri tanpa menguji kelemahan argumen. “Argumen yang hanya diarahkan untuk menyetujui pembuatnya pada akhirnya tidak jujur, bahkan terhadap pembuat argumen itu sendiri,” tegas Spader.
