Menurut belajar dari Institut Teknologi Massachusetts (MIT), dan sayakecerdasan buatan (AI), dapat memprediksi balapan pasien melalui citra medis mereka. Ziad Obermeyer, profesor di University of California di Berkeley, meyakinkan bahwa fakta bahwa algoritma melihat balapan Ini bisa berbahaya.
Penelitian ini dilakukan dengan menggunakan satu set data publik dan pribadi. Diantaranya adalah rontgen dada, rontgen ekstremitas, CT scan dada, dan mammogram digital.
Terlepas dari hal di atas, tim melatih a model pembelajaran untuk mengidentifikasi ras kulit putih, hitam atau asia meskipun tidak disebutkan secara eksplisit dalam gambar pasien. Untuk mencapai ini, serangkaian percobaan dengan kecerdasan buatan dilakukan untuk menyelidiki kemungkinan mekanisme deteksi ras.
Oleh karena itu, variabel seperti perbedaan anatomi, kepadatan tulang, resolusi pencitraan, di antara yang lain. Studi tersebut menyoroti bahwa terlepas dari variabilitas, kecerdasan buatan terus mendeteksi ras dari rontgen dada.
Leo Anthony Celi, seorang peneliti di MIT dan profesor kedokteran di Harvard Medical School, berkomentar bahwa algoritma dapat memperkuat disparitas dan ketidaksetaraan yang ada. Oleh karena itu, ia menganggap penting untuk merenungkan dan mempertimbangkan kembali apakah umat manusia siap untuk membawa AI ke samping tempat tidur pasien.
Studi tersebut, yang disebut “Pengenalan AI terhadap ras pasien dalam pencitraan medis: studi pemodelan,” diterbitkan di Kesehatan Digital Lancet pada 11 Mei 2022. Celi dan Marzyeh Ghassemi menulis artikel tersebut bersama 20 penulis lain dari empat negara.
Para ilmuwan pertama kali menunjukkan bahwa kecerdasan buatan mampu memprediksi balapan di modalitas pencitraan yang berbeda. Demikian juga, mekanisme seperti itu tebak berbagai kumpulan data, tugas klinis, dan pusat akademik.
Untuk ini, tiga kumpulan data besar radiografi dada dan model diuji pada subset data yang tidak terlihat yang digunakan. Selanjutnya, mereka melatih model deteksi identitas rasial untuk gambar sinar-X non-toraks dari beberapa lokasi tubuh. Ini untuk melihat apakah kinerja model terbatas untuk radiografi dada.
Untuk menjelaskan perilaku model, tim membahas beberapa dasar. Diantaranya, perbedaan ciri fisik antara kelompok ras yang berbeda, distribusi penyakit, dan perbedaan spesifik lokasi atau jaringan. Demikian juga, efek dari prasangka sosial, tekanan lingkungan dalam penelitian, kemampuan kecerdasan buatan untuk mendeteksi ras dan apakah wilayah gambar berkontribusi untuk mengenali ini tercakup.
Dengan cara ini, para ilmuwan menemukan bahwa kemampuan kecerdasan buatan untuk memprediksi balapan oleh label diagnostik lebih rendah. Untuk bagian mereka, model berdasarkan gambar rontgen dada memiliki prediksi yang lebih baik.
Namun, para ilmuwan mengakui bahwa ketersediaan label identitas rasial adalah terbatas. Sebagai konsekuensi dari skenario yang dijelaskan di atas, mereka berfokus pada Populasi Asia, kulit hitam, dan kulit putih.
Karya lain oleh Ghassemi dan Celi, disutradarai oleh mahasiswa MIT, Hammaad Adammenemukan bahwa kecerdasan buatan juga dapat mengidentifikasi ras yang dinyatakan oleh pasien sendiri. Ini dari catatan klinis, bahkan ketika catatan ini tidak memiliki indikator ras yang jelas.
