Penelitian Baru Tunjukkan Kelemahan Mendasar AI
Daftar isi:
Kopenhagen – Para peneliti dari Universitas Kopenhagen menjadi lembaga pertama di dunia yang membuktikan secara matematis bahwa, selain masalah sederhana, tidak mungkin mengembangkan algoritma AI yang akan selalu stabil.
ChatGPT dan teknologi berbasis pembelajaran mesin serupa sedang meningkat. Namun, algoritma yang paling canggih pun tentu menghadapi keterbatasan.Para peneliti dari Universitas Kopenhagen telah membuat penemuan inovatif, yang secara matematis menunjukkan bahwa, di luar permasalahan dasar, mustahil mengembangkan algoritma AI yang selalu stabil. Penelitian ini dapat membuka jalan bagi peningkatan protokol pengujian algoritma, menyoroti perbedaan inheren antara pemrosesan mesin dan kecerdasan manusia.
Artikel ilmiah yang menjelaskan hasilnya telah disetujui untuk dipublikasikan di salah satu konferensi internasional terkemuka tentang ilmu komputer teoretis.
Baca Juga:
Mesin mungkin bisa menafsirkan gambar pemindaian medis lebih akurat dibandingkan dokter, menerjemahkan bahasa asing, dan mungkin akan segera dapat mengemudikan mobil dengan lebih aman dibandingkan manusia. Namun, bahkan algoritma terbaik pun memiliki kelemahan. Tim peneliti di Departemen Ilmu Komputer, Universitas Kopenhagen, mencoba mengungkapnya.
Ambil contoh kendaraan otomatis yang membaca rambu jalan. Jika seseorang menempelkan stiker pada tanda tersebut, hal ini tidak akan mengganggu pengemudi manusia. Namun suatu mesin dapat dengan mudah dimatikan karena tandanya sekarang berbeda dari tanda yang pernah dilatihnya.
“Kami ingin algoritme menjadi stabil dalam artian, jika masukan diubah sedikit, keluarannya akan tetap sama. Kehidupan nyata melibatkan segala jenis kebisingan yang biasanya diabaikan oleh manusia, sementara mesin bisa menjadi kacau,” kata Profesor Amir Yehudayoff, yang memimpin kelompok penelitian tersebut.
Baca Juga:
Bahasa untuk mendiskusikan kelemahan
Sebagai yang pertama di dunia, kelompok ini bersama peneliti dari negara lain telah membuktikan secara matematis bahwa selain permasalahan sederhana tidak mungkin tercipta algoritma Machine Learning yang akan selalu stabil. Artikel ilmiah yang menjelaskan hasilnya telah disetujui untuk dipublikasikan di salah satu konferensi internasional terkemuka tentang ilmu komputer teoretis, Foundations of Computer Science (FOCS).
“Saya ingin mencatat bahwa kami belum mengerjakan secara langsung aplikasi mobil otomatis. Namun, hal ini sepertinya merupakan masalah yang terlalu rumit sehingga algoritma tidak bisa selalu stabil,” kata Amir Yehudayoff, seraya menambahkan bahwa hal ini tidak selalu berarti konsekuensi besar dalam kaitannya dengan pengembangan mobil otomatis:
“Jika algoritme hanya mengalami kesalahan dalam beberapa keadaan yang sangat jarang terjadi, hal ini mungkin dapat diterima. Namun jika hal ini terjadi dalam banyak situasi, maka ini adalah berita buruk,” tuturnya.
Baca Juga:
Artikel ilmiah tidak dapat diterapkan oleh industri untuk mengidentifikasi bug dalam algoritmanya. Ini bukan maksudnya, sang profesor menjelaskan:
“Kami sedang mengembangkan bahasa untuk membahas kelemahan algoritma Machine Learning. Hal ini dapat mengarah pada pengembangan pedoman yang menjelaskan bagaimana algoritma harus diuji. Dan dalam jangka panjang, hal ini mungkin akan mengarah pada pengembangan algoritma yang lebih baik dan lebih stabil.”
Penerapan yang mungkin dilakukan adalah untuk menguji algoritma untuk perlindungan privasi digital.
Baca Juga:
”Beberapa perusahaan mungkin mengklaim telah mengembangkan solusi yang benar-benar aman untuk perlindungan privasi. Pertama, metodologi kami mungkin dapat membantu membuktikan bahwa solusi yang diberikan tidak sepenuhnya aman. Kedua, hal ini akan mampu menunjukkan titik-titik kelemahan,” kata Amir Yehudayoff.
Namun yang pertama dan terpenting, artikel ilmiah berkontribusi pada teori. Terutama konten matematikanya yang inovatif, ia menambahkan: “Kami memahami secara intuitif, bahwa algoritma yang stabil akan bekerja hampir sama baiknya dengan sebelumnya ketika terkena sejumlah kecil input noise. Persis seperti rambu lalu lintas yang ditempeli stiker. Namun sebagai ilmuwan komputer teoretis, kita memerlukan definisi yang tegas. Kita harus mampu menggambarkan permasalahan tersebut dalam bahasa matematika. Berapa banyak noise yang harus dapat ditahan oleh algoritme, dan seberapa dekat keluaran aslinya jika kita ingin algoritme tersebut stabil? Inilah yang kami usulkan jawabannya.”
Artikel ilmiah ini mendapat perhatian besar dari rekan-rekan di dunia teori ilmu komputer, namun tidak dari industri teknologi. Setidaknya belum.
Baca Juga:
Tapi Yehudayoff mengingatkan, “Machine Learning terus mengalami kemajuan pesat, dan penting untuk diingat bahwa bahkan solusi yang sangat berhasil di dunia nyata pun masih memiliki keterbatasan. Mesin terkadang terlihat mampu berpikir, namun bagaimanapun juga, mereka tidak memiliki kecerdasan manusia. Ini penting untuk diingat.” (sciencetechdaily/tje)
Artikel Terkait
