(SeaPRwire) – By: Nathaniel Cross
Sistem AI alokasi tempat tidur ICU bukanlah solusi bebas risiko. Banyak pihak lupa algoritma hanya bekerja berdasarkan data yang diprogramkan. Ketika algoritma ambil alih keputusan klinis dokter, risiko kesalahan mematikan meningkat. Cacat desain seperti ini bukanlah kejadian tak terduga.
Pemerintah negara bagian Minas Gerais meluncurkan Core-MG bulan lalu. Pejabat negara mengklaim sistem buat alokasi lebih cepat dan transparan. Dinas Kesehatan Minas Gerais membantah sistem sebabkan kematian pasien. Mereka bilang pasien langsung terdaftar, dokter masih awasi semua regulasi. Core-MG juga diklaim tidak ubah kriteria klinis yang sudah ada.
Rebeca Cardoso Tenente Molina adalah psikolog 32 tahun dari Minas Gerais. Dia berobat awal bulan ini karena dugaan penyakit batu empedu. Kondisinya memburuk dengan sangat cepat. Dokter simpulkan dia butuh transfer ke ICU segera. Sistem AI beri dia skor keparahan 6,8, keluarga nilai dia layak dapat skor 10. Keluarga sudah ke pengadilan minta transfer lebih cepat. Tempat tidur baru ditemukan setelah lima hari, berjarak 300 km dari lokasi awal. Molina diterbangkan pesawat pribadi, tapi meninggal beberapa jam kemudian. Sertifikat kematian catat penyebabnya adalah syok septik. Kakak kembarnya Samela, yang juga pengacara, bilang dokter hilang otonomi nilai pasien kritis. Dia bilang pasien bukan hanya angka atau nomor CPF yang masuk sistem. Kasus ini tambah kekhawatiran integrasi AI di bidang kesehatan. Di AS, beberapa asuransi baru digugat atas penolakan klaim berbasis algoritma. Perawat New York peringatkan rumah sakit terlalu cepat pasang AI tanpa pengawasan medis.
Semakin banyak institusi kesehatan pasang AI tanpa pengawasan dokter memadai, akan semakin banyak kematian yang bisa dicegah terjadi.
Author bio: Nathaniel Cross, mantan Lead AI Research Scientist dan pelopor protokol terdesentralisasi, ahli etika algoritma kesehatan.