Pedoman WHO: Regulasi AI Sektor Kesehatan dan Vaksin

PENTINGNYA regulasi Artificial Intelligence (AI) di bidang kesehatan menjadi komitmen Organisasi Kesehatan Dunia (WHO).

Dalam rilisnya "WHO outlines considerations for regulation of artificial intelligence for health" 19/10/2023 , WHO mempublikasikan pedoman regulasi AI untuk sektor kesehatan.

Publikasi ini menyatakan pentingnya membangun keamanan dan efektivitas sistem AI. AI, dengan cepat dan tepat dapat menyediakan sistem bagi mereka yang membutuhkannya.

WHO menekankan pentingnya membangun keamanan, efektivitas sistem AI, dan dengan cepat menyediakan sistem yang tepat bagi mereka yang membutuhkannya.

Kemudian mendorong dialog antarpemangku kepentingan, termasuk pengembang AI, regulator, produsen, petugas kesehatan, dan pasien.

Dengan meningkatnya ketersediaan data layanan kesehatan, dan kemajuan pesat dalam teknik analitik, baik pembelajaran mesin, berbasis logika, atau statistik, maka platform AI dapat mengubah sektor kesehatan.

WHO mengakui potensi AI dalam meningkatkan upaya di bidang kesehatan. Hal ini mencakup penguatan uji klinis, meningkatkan diagnosis medis, pengobatan, perawatan diri dan perawatan yang berpusat pada orang.

AI berperan dalam menambah pengetahuan, keterampilan, dan kompetensi profesional perawatan kesehatan. AI juga bermanfaat saat terjadi situasi kekurangan spesialis medis, misalnya dalam menafsirkan pemindaian retina dan gambar radiologi.

Peringatan

Namun demikian, WHO nengingatkan, teknologi AI termasuk model bahasa besar yang diterapkan dengan cepat, terkadang dilakukan tanpa pemahaman penuh tentang cara kerjanya.

Hal ini bisa berupa lemahnya pemahaman apakah penggunaan AI menguntungkan, atau merugikan pengguna akhir, termasuk tenaga medis profesional dan pasien.

WHO juga mengingatkan tentang pentingnya regulasi. Mengingat pada saat menggunakan data kesehatan, sistem AI dapat memiliki akses ke informasi pribadi yang sensitif.

Hal ini memerlukan kerangka hukum dan regulasi yang kuat untuk menjaga privasi, keamanan, dan integritas.

Kita bisa menyimak pernyataan Dr. Tedros Adhanom Ghebreyesus, Direktur Jenderal WHO. Ia menyatakan, bagi dunia kesehatan, AI sangat menjanjikan, sekaligus menjadi tantangan serius.

Termasuk pengumpulan data yang tidak etis, ancaman keamanan siber, dan bias atau misinformasi yang semakin meluas.

Untuk itulah, WHO membuat Pedoman baru ini untuk mendukung negara-negara mengatur AI secara efektif. Pedoman ini dibuat agar dunia bisa memanfaatkan potensi AI dengan baik seperti dalam pengobatan kanker, mendeteksi tuberkulosis, sekaligus meminimalkan risikonya.

WHO menetapkan enam area terkait pedoman regulasi AI untuk kesehatan yang mencakup hal-hal sebagai berikut:

Pertama, untuk menumbuhkan kepercayaan, diperlukan transparansi dan dokumentasi. Seperti melalui pendokumentasian seluruh siklus hidup produk, dan pelacakan proses pengembangan.

Kedua, pentingnya manajemen risiko. Mencakup permasalahan seperti tujuan penggunaan, pembelajaran berkelanjutan, intervensi manusia, model pelatihan, dan ancaman keamanan siber, yang harus ditangani secara komprehensif, dengan model yang dibuat sesederhana mungkin.

Permasalahan seperti tujuan penggunaan, pembelajaran berkelanjutan, intervensi manusia, model pelatihan, dan ancaman keamanan siber, harus ditangani secara komprehensif. Dengan model yang dibuat sesederhana mungkin.

Ketiga, memvalidasi data secara eksternal dan memperjelas tujuan penggunaan AI, akan membantu menjamin keselamatan.

Keempat, komitmen terhadap kualitas data. Hal ini dapat dilakukan melalui evaluasi sistem secara ketat sebelum rilis, sangat penting untuk memastikan sistem tidak memperbesar bias dan kesalahan.

Kelima, tantangan yang ditimbulkan oleh peraturan penting dan kompleks, seperti Peraturan Perlindungan Data Pribadi. Pada prinsipnya saya melihat bahwa Regulasi terkait AI, harus merujuk pada ketentuan terkait tersebut.

Keenam, membangun kolaborasi antara regulator, pasien, profesional kesehatan, perwakilan industri, dan mitra pemerintah dapat membantu memastikan produk dan layanan tetap mematuhi regulasi sepanjang siklus hidupnya.

Kompleksitas sistem AI menunjukan bahwa sistem tidak hanya bergantung pada kode yang digunakan untuk membangun sistemnya semata. Namun, juga pada data yang digunakan untuk melatihnya yang berasal dari lingkungan klinis dan interaksi pengguna.

Regulasi penting dalam mencegah dan membantu mengurangi risiko yang timbul karena model AI. Termasuk dalam mengatasi kemungkinan kesulitan AI untuk secara akurat menggambarkan keragaman populasi yang berdampak luaran bias, tidak akurat, bahkan kegagalan.

WHO menyebut bahwa regulasi juga dapat digunakan untuk memastikan bahwa atribut seperti jenis kelamin, ras, dan etnis, dari orang-orang yang ditampilkan dalam data pelatihan, dilaporkan dan dibuat secara representatif.

AI dan Vaksin

Sebuah penelitian yang dilakukan di University of Cincinnati dan dipublikasikan dalam Journal of Medical Internet Research Public Health and Surveillance menyatakan, COVID-19 sepertinya tidak akan menjadi pandemi terakhir yang kita lihat dalam beberapa dekade mendatang.

Oleh karena itu, ketersediaan platform AI untuk memprediksi kesehatan masyarakat, termasuk platform untuk prediksi tingkat vaksinasi dan tingkat infeksi berikutnya, adalah hal penting.

Para peneliti dalam laporannya menyatakan, AI yang canggih dapat memprediksi sikap orang terhadap vaksin.

Dalam laporan penelitian berjudul “Powerful new AI can predict people's attitudes to vaccines” (18/03/2024) itu, Michael Miller mengemukakan bahwa sistem ini mengintegrasikan matematika penilaian manusia, dengan pembelajaran mesin, untuk memprediksi keraguan terhadap vaksin.

Laporan itu menyatakan, AI mampu memprediksi apakah seseorang bersedia divaksinasi COVID-19. Sistem prediktif, menggunakan sekumpulan kecil data dari demografi, dan penilaian pribadi seperti keengganan terhadap risiko atau kerugian.

Temuan ini dapat diterapkan secara luas dalam memprediksi kesehatan mental dan menghasilkan kampanye kesehatan masyarakat yang lebih efektif.

Tim peneliti di Universitas Cincinnati dan Universitas Northwestern membuat model prediktif menggunakan sistem persamaan matematika terintegrasi.

Mereka menggambarkan pola dalam penilaian penerimaan dan penolakan dengan pembelajaran mesin. Dengan menggunakan sejumlah kecil variabel, dan sumber daya komputasi minimal, dalam membuat prediksi.

Para peneliti mensurvei sejumlah 3.476 orang dewasa di seluruh Amerika Serikat, pada tahun 2021 selama pandemi COVID-19. Sebagai catatan, saat survei dilakukan, vaksin pertama telah tersedia selama lebih dari satu tahun.

Peserta ditanya, apakah mereka telah menerima salah satu vaksin COVID-19 yang tersedia. Sekitar 73 persen responden mengatakan mereka telah divaksinasi. Ini sedikit lebih banyak dari 70 persen populasi negara yang telah divaksinasi pada tahun 2021.

Selanjutnya mereka ditanya, apakah mereka secara rutin mengikuti empat anjuran yang dirancang untuk mencegah penyebaran virus: mengenakan masker, menjaga jarak sosial, mencuci tangan, dan tidak berkumpul dalam kelompok besar.

Penelitian dengan menggunakan berbagai variabel penilaian, dan variabel demografi ini, membandingkan responden yang divaksinasi dan tidak.

Tiga pendekatan pembelajaran mesin digunakan untuk menguji seberapa baik penilaian, demografi, dan sikap responden terhadap tindakan pencegahan COVID-19, dalam memprediksi apakah mereka akan mendapatkan vaksin.

Singkatnya, studi ini menunjukkan, AI dapat memprediksi secara akurat terkait sikap manusia. Tentu dengan data yang sangat sedikit atau ketergantungan pada penilaian klinis yang mahal dan memakan waktu.

Para peneliti menemukan bahwa sekelompok kecil variabel demografi dan lima belas variabel penilaian memprediksi penggunaan vaksin dengan akurasi sedang hingga tinggi dan presisi tinggi.

Dengan pendekatan pembelajaran mesin big data, penelitian saat ini dapat dilakukan dengan menggunakan variabel yang lebih sedikit, namun dapat lebih diinterpretasikan.

Studi ini mereka sebut sebagai "anti-data besar,” bisa bekerja dengan sangat sederhana. Tidak memerlukan komputasi super, murah, dan dapat diterapkan oleh siapa saja yang memiliki smartphone. Mereka menyebutnya sebagai AI kognisi komputasional.

Penelitian ini menunjukan bahwa AI dapat secara signifikan dimanfaatkan untuk sektor kesehatan.

Namun demikian, dapat saya kemukakan bahwa AI di bidang Kesehatan secara global dikategorikan sebagai AI berisiko tinggi karena terkait langsung dengan kesehatan dan keselamatan manusia.

Oleh karena itu, membuat regulasi dan kebijakan terkait AI di bidang kesehatan, disertai mitigasi risikonya, dengan merujuk pada Pedoman WHO menjadi hal yang perlu dilakukan.

Pedoman WHO dimaksudkan sebagai dasar dan prinsip-prinsip utama yang dapat diikuti oleh pemerintah dan regulator dalam membuat regulasi tentang AI di tingkat nasional.