Aspek Medikolegal Artificial Intelligence

Oleh :
dr. Alexandra Francesca Chandra

Perkembangan artificial intelligence (AI) / kecerdasan buatan di bidang kedokteran menyebabkan munculnya isu medikolegal seperti belum adanya regulasi hukum yang mengatur kecerdasan buatan, isu keamanan dan privasi pasien, serta siapa yang harus bertanggung jawab secara hukum jika terjadi kasus.

Perkembangan pesat kecerdasan buatan sudah merambah ke berbagai bidang, salah satunya kesehatan, baik dari segi sistem pelayanan maupun klinis dan pengobatan. Contoh-contoh peranan artificial intelligence dalam dunia kedokteran:

Walau demikian, kecerdasan buatan tampaknya tetap tidak bisa menggantikan praktisi klinis apapun. Hal ini disebabkan eratnya profesi dokter dengan isu medikolegal, terkait belum adanya regulasi hukum yang mengatur kecerdasan buatan, keamanan dan privasi pasien, serta siapa yang bertanggung jawab secara hukum.

shutterstock_1066928579_compressed

Regulasi Hukum untuk Kecerdasan Buatan

Regulasi yang mengatur kecerdasan buatan (artificial intelligence / AI) tentunya harus bisa mengevaluasi dan menjamin keamanan dan akurasi dari keputusan medis yang dihasilkan oleh “algoritma berpikir” kecerdasan buatan. Ada berbagai dilema dalam hal ini:

  • Bagaimana menjamin efektivitas dan keamanan algoritma berpikir kecerdasan buatan?
  • Apakah keamanan dan akurasi kecerdasan buatan dapat disahkan secara hukum?

Efektivitas dan Keamanan Algoritma Kecerdasan Buatan

Algoritma kecerdasan buatan di bidang medis sering dikenal dengan “black-box medicine” atau analisis prediktif.[1,2] Hal ini dikarenakan keputusan medis dari algoritma berpikir machine learning ini tidak bisa dijelaskan secara rinci, bahkan bisa berubah seiring waktu (terkait dengan semakin banyaknya data yang ada).

Berbagai kecerdasan buatan di bidang medis yang sudah ada saat ini, dari pattern recognition hingga prognosis, tidak ada yang bisa menjelaskan mengapa dan bagaimana ia dapat mencapai kesimpulan tersebut. Atau bila bisa dijelaskan, pola tersebut tidak bermanfaat untuk dimengerti secara medis. Sehingga, algoritma medis yang dihasilkan kecerdasan buatan hingga kini belum bisa dijamin secara hukum keamanan dan efektivitasnya.

Regulasi Food and Drug Administration (FDA) untuk Kecerdasan Buatan

Umumnya, regulasi teknologi/alat medis (medical device) terbaru dari segi efektivitas dan keamanannya dilakukan oleh Food and Drug Administration (FDA). Namun pada dasarnya, regulasi FDA terbatas pada alatnya (medical device), bukan praktik klinisnya.[2] Sementara alat medis yang mengandung kecerdasan buatan tentunya menjangkau area praktik klinis (karena menentukan diagnosis hingga terapi) sehingga secara hukum, FDA tidak bisa meregulasi kecerdasan buatan untuk bidang medis.

Seandainya bisa pun, prediksi/rekomendasi medis yang dihasilkan kecerdasan buatan itu sendiri dapat berubah seiring dengan perubahan algoritma akibat bertambahnya data, sehingga uji klinis/clinical trial untuk membuktikan keputusan medis kecerdasan buatan pun tidak memungkinkan.[2]

Di Indonesia, isu ini menjadi lebih pelik lagi karena belum terdapat badan yang khusus mengatur mengenai regulasi praktik klinis kecerdasan buatan.

Keamanan dan Privasi Pasien

Untuk membuat dan menyusun “algoritma berpikir” kecerdasan buatan, tentu diperlukan data-data medis pasien dalam jumlah besar untuk “melatih” kecerdasan buatan tersebut. Mesin tersebut harus “dilatih” untuk menyusun algoritma sendiri, dan divalidasi ketepatannya dengan data-data medis pula.

Hal ini berarti data medis pasien yang bersifat rahasia tentunya harus tersebar luas untuk digunakan oleh pengembang software, programmer, developer, dan semua yang terlibat di dalam pengembangan dan badan lain yang terlibat dalam validasi kecerdasan buatan tersebut.

Walau demikian, kebanyakan perusahaan pembuat artificial intelligence sudah menyadari ini sehingga data yang digunakan sudah dihilangkan identitasnya sehingga menjaga privasi pasien.

Tentunya penggunaan data medis pasien yang seharusnya bersifat rahasia ini memunculkan isu etik seperti perlu tidaknya informed consent penggunaan data medis untuk pengembangan AI, dan isu otonomi pasien.[1-3]

Pertanyaan terkait Kewajiban Hukum Seputar Kecerdasan Buatan

Pertanyaan paling sederhana adalah: siapa yang bertanggung jawab terhadap keputusan medis yang dihasilkan kecerdasan buatan? Kecerdasan buatan pada dasarnya hanyalah mesin buatan manusia sehingga tentunya tidak bisa memiliki tanggung jawab secara hukum.

Dengan demikian, bila terjadi kesalahan medis akibat kecerdasan buatan, siapakah yang dapat dituntut? Apakah semua yang terlibat dalam pembuatan algoritma (data scientist, pembuat software, programmer, serta semua yang berperan dalam proses produksi, marketing, dan instalasi) secara hukum dinilai bertanggung jawab bila terjadi kesalahan medis akibat kecerdasan buatan?[2, 3]

Pertanyaan lainnya adalah “apabila seorang dokter mengikuti diagnosis/rekomendasi medis dari kecerdasan buatan yang sudah disahkan (karena terbukti lebih reliable dibandingkan dokter), dan ternyata salah, apakah bisa dianggap kelalaian dokter tersebut?”[1-4]

Black-Box Medicine

Isu medikolegal kecerdasan buatan lainnya adalah adanya ketakutan mengenai ketidakmampuan untuk menjelaskan mengenai mengapa dan bagaimana keputusan yang dibuat AI diambil (black-box medicine). Walau demikian, hal ini seharusnya diimbangi dengan pemahaman bahwa AI tidak dapat berdiri sendiri menggantikan praktik klinis. Dokter harus tetap menggunakan penilaian klinisnya untuk menilai dan menginterpretasi hasil keputusan AI dan menyesuaikannya dengan kondisi pasien.

Prinsip ini serupa dengan prinsip yang berlaku untuk pemeriksaan penunjang lainnya. Dokter tidak perlu mengerti prinsip cara kerja suatu alat MRI untuk bisa menggunakan hasil MRInya untuk pasien. Akan tetapi, jika hasil MRI tersebut tidak sesuai dengan kondisi klinis pasien, tentunya hasil tersebut tentunya tidak diterima begitu saja tetapi perlu dianalisa kembali.

Sanggahan lain mengenai isu black-box medicine ini adalah adanya riset klinis (clinical trial) di balik pembuatan AI. Asalkan AI didesain dengan kualitas yang baik dan tervalidasi secara klinis menggunakan penelitian dengan jumlah sampel memadai dan metodologi yang baik, tentunya klinisi tidak perlu takut menggunakan hasil AI untuk membantu mengambil keputusan klinis terkait diagnosa dan pengobatan pasien.

Kesimpulan

Kecerdasan buatan (artificial intelligence / AI) di bidang kesehatan saat ini semakin berkembang pesat, bahkan di beberapa studi ditemukan bisa mengambil keputusan klinis dengan lebih baik dibandingkan dokter. Walau demikian, terdapat isu medikolegal mengenai belum adanya regulasi hukum yang mengatur kecerdasan buatan, isu keamanan dan privasi pasien, serta siapa yang harus bertanggung jawab secara hukum jika terjadi kasus.

Selama isu medikolegal tersebut belum terjawab, dokter tidak perlu takut kecerdasan buatan akan menggantikan peran dokter untuk membuat keputusan klinis terkait diagnosis dan tata laksana pasien. Sebaliknya, dokter harus mempelajari perkembangan teknologi kecerdasan buatan dan mengadopsi AI yang bisa meningkatkan kualitas praktik klinisnya. Dengan demikian, diagnosis dan tata laksana pasien bisa dilakukan dengan lebih efektif.

Referensi