BENGKULU — Dosen Hubungan Internasional UGM Dedy Permadi meminta pemerintah meninjau ulang rencana pengenalan kecerdasan buatan kepada siswa sekolah dasar. Teknologi AI berbasis large language model dinilai rawan menghasilkan informasi keliru, sementara anak-anak belum punya kemampuan memverifikasinya. Peringatan ini muncul di tengah dorongan memasukkan pembelajaran AI ke kurikulum sejak dini.
Dedy menyampaikan peringatan tersebut dalam workshop Indonesian Next Generation Journalist Network on Korea (IKJN) di Jakarta, Jumat (30/10). Ia menyoroti penggunaan aplikasi seperti ChatGPT, Copilot, dan Gemini tanpa pendampingan serta bekal literasi yang memadai.
Menurut dia, risiko itu bukan soal kecanggihan teknologi, melainkan soal siapa yang memeriksa hasilnya. Anak usia SD dinilai belum memiliki bekal untuk melakukan verifikasi.
Dedy menjelaskan bahwa model bahasa besar atau LLM cenderung mengalami halusinasi. Algoritma tersebut bisa menghasilkan berita dan informasi palsu yang tampak meyakinkan.
Dalam prinsip AI yang berpusat pada manusia, manusia harus memeriksa hasil yang dihasilkan AI. Persoalannya, anak-anak belum memiliki kemampuan itu.
"LLM cenderung mengalami halusinasi. Algoritma ini bisa menghasilkan berita dan informasi palsu. Siapa yang akan memverifikasinya? Dalam prinsip AI yang berpusat pada manusia, manusia harus memeriksa hasil yang dihasilkan AI. Namun, anak-anak belum memiliki bekal yang cukup untuk memverifikasi halusinasi dari AI," kata Dedy.
Dedy membedakan dua hal yang sering dicampur dalam diskusi soal AI di sekolah. AI for education merujuk pada pemanfaatan AI untuk mendukung proses belajar. Contohnya aplikasi bantu siswa penyandang disabilitas memahami materi, serta sistem pembelajaran yang disesuaikan dengan kemampuan masing-masing siswa.
Pemanfaatan AI untuk pembelajaran personal, menurut dia, bisa membantu mengatasi keterbatasan kapasitas dan keterampilan tenaga pengajar. Guru jadi lebih mudah menyesuaikan metode dengan kebutuhan tiap siswa.
"AI for education sebenarnya dapat dimanfaatkan untuk meningkatkan kualitas pendidikan. Namun, yang perlu menjadi perhatian adalah AI education, yaitu mengajarkan AI kepada siswa," ujarnya.
Pemerintah Indonesia pada 2024 sempat memperkenalkan rencana memasukkan pembelajaran AI ke dalam kurikulum bagi generasi muda, termasuk siswa SD. Saat itu Dedy sudah meminta rencana tersebut ditinjau kembali sebelum AI diperkenalkan secara langsung kepada anak-anak.
Ia juga mengaitkan penggunaan AI dan paparan layar berlebihan dengan potensi dampak negatif terhadap generasi muda. Dedy menyebut kekhawatiran soal penurunan kemampuan kognitif anak dan menyinggung istilah cognitive death untuk menjelaskan risiko tersebut.
Sebagai perbandingan, Dedy menceritakan pengalamannya mengunjungi Jepang setahun setelah inisiatif pengenalan AI di Indonesia. Berdasarkan pengamatannya, Jepang baru memperkenalkan AI kepada siswa tingkat SMA, dengan panduan dan pendampingan guru.
Penggunaan AI di sekolah dibatasi melalui perangkat khusus yang disediakan sekolah. Perangkat itu memakai platform dengan akses terbatas, sehingga siswa hanya bisa membuka sejumlah kanal yang telah ditentukan.
Jepang juga memiliki kelas dan kurikulum khusus bagi siswa dengan kemampuan atau bakat istimewa di bidang AI. Pendekatan itu membuat pengenalan AI bisa disesuaikan bagi siswa yang kemampuan lebih, sementara penggunaan teknologi oleh anak-anak secara umum tetap dibatasi.
"Secara umum, mereka melindungi anak-anak dari penggunaan AI. Namun, mereka juga memberikan kesempatan kepada anak-anak berbakat untuk mengembangkan keterampilannya melalui kelas dan kurikulum khusus," tutur Dedy.
Dedy menegaskan penggunaan AI tetap harus menerapkan prinsip human-centered AI. Prinsip ini mengharuskan manusia terlibat dalam setiap tahap pengembangan dan penggunaan AI, termasuk mengawasi hasil serta keputusan yang dihasilkan teknologi tersebut.
AI tidak boleh dibiarkan mengambil keputusan secara mandiri tanpa pengawasan manusia. Tanggung jawab atas kesalahan yang muncul dari penggunaan teknologi tetap berada pada manusia.
"Manusia harus tetap berada dalam setiap tahapan pengembangan dan penggunaan AI. Manusia harus memegang kendali penuh atas keputusan. Jika terjadi kesalahan, pihak yang bertanggung jawab adalah manusia," tegas Dedy.
Bagi pelaku edutech dan pengembang aplikasi pembelajaran, peringatan Dedy menjadi catatan penting. Fitur AI yang menyasar segmen anak perlu dirancang dengan lapisan verifikasi dan pendampingan orang dewasa, bukan sekadar antarmuka percakapan yang bebas diakses.