Pedoman WHO: Regulasi AI Sektor Kesehatan dan Vaksin

WHO menetapkan enam area terkait pedoman regulasi AI untuk kesehatan yang mencakup hal-hal sebagai berikut:

Pertama, untuk menumbuhkan kepercayaan, diperlukan transparansi dan dokumentasi. Seperti melalui pendokumentasian seluruh siklus hidup produk, dan pelacakan proses pengembangan.

Kedua, pentingnya manajemen risiko. Mencakup permasalahan seperti tujuan penggunaan, pembelajaran berkelanjutan, intervensi manusia, model pelatihan, dan ancaman keamanan siber, yang harus ditangani secara komprehensif, dengan model yang dibuat sesederhana mungkin.

Permasalahan seperti tujuan penggunaan, pembelajaran berkelanjutan, intervensi manusia, model pelatihan, dan ancaman keamanan siber, harus ditangani secara komprehensif. Dengan model yang dibuat sesederhana mungkin.

Ketiga, memvalidasi data secara eksternal dan memperjelas tujuan penggunaan AI, akan membantu menjamin keselamatan.

Keempat, komitmen terhadap kualitas data. Hal ini dapat dilakukan melalui evaluasi sistem secara ketat sebelum rilis, sangat penting untuk memastikan sistem tidak memperbesar bias dan kesalahan.

Kelima, tantangan yang ditimbulkan oleh peraturan penting dan kompleks, seperti Peraturan Perlindungan Data Pribadi. Pada prinsipnya saya melihat bahwa Regulasi terkait AI, harus merujuk pada ketentuan terkait tersebut.

Keenam, membangun kolaborasi antara regulator, pasien, profesional kesehatan, perwakilan industri, dan mitra pemerintah dapat membantu memastikan produk dan layanan tetap mematuhi regulasi sepanjang siklus hidupnya.

Kompleksitas sistem AI menunjukan bahwa sistem tidak hanya bergantung pada kode yang digunakan untuk membangun sistemnya semata. Namun, juga pada data yang digunakan untuk melatihnya yang berasal dari lingkungan klinis dan interaksi pengguna.

Regulasi penting dalam mencegah dan membantu mengurangi risiko yang timbul karena model AI. Termasuk dalam mengatasi kemungkinan kesulitan AI untuk secara akurat menggambarkan keragaman populasi yang berdampak luaran bias, tidak akurat, bahkan kegagalan.

WHO menyebut bahwa regulasi juga dapat digunakan untuk memastikan bahwa atribut seperti jenis kelamin, ras, dan etnis, dari orang-orang yang ditampilkan dalam data pelatihan, dilaporkan dan dibuat secara representatif.

AI dan Vaksin

Sebuah penelitian yang dilakukan di University of Cincinnati dan dipublikasikan dalam Journal of Medical Internet Research Public Health and Surveillance menyatakan, COVID-19 sepertinya tidak akan menjadi pandemi terakhir yang kita lihat dalam beberapa dekade mendatang.

Oleh karena itu, ketersediaan platform AI untuk memprediksi kesehatan masyarakat, termasuk platform untuk prediksi tingkat vaksinasi dan tingkat infeksi berikutnya, adalah hal penting.

Para peneliti dalam laporannya menyatakan, AI yang canggih dapat memprediksi sikap orang terhadap vaksin.

Dalam laporan penelitian berjudul “Powerful new AI can predict people's attitudes to vaccines” (18/03/2024) itu, Michael Miller mengemukakan bahwa sistem ini mengintegrasikan matematika penilaian manusia, dengan pembelajaran mesin, untuk memprediksi keraguan terhadap vaksin.