Tıp Eğitimi ve Araştırmalarında Yapay Zekâ
Eleştirel Düşünmeyi Yapay Zekâya Devretmeden Dil Modelleri Nasıl Kullanılabilir?
Yapay zekâ; karmaşık bir kavramı açıklayabilir, eğitim amaçlı klinik vakalar oluşturabilir, bilimsel makaleleri özetleyebilir ve yüzlerce araştırma özetini (abstract) kısa süre içinde tarayabilir. Bununla birlikte, gerçekte var olmayan bir kaynağa atıfta bulunabilir, bilimsel belirsizlikleri olduğundan daha kesin bir biçimde sunabilir ve teknik açıdan etkileyici ancak gerçekte hatalı olan açıklamalar üretebilir.
Bu nedenle temel soru, klinisyenlerin yapay zekâ kullanıp kullanmaması gerektiği değildir. Asıl mesele, bu araçların akıcı ve ikna edici anlatımını güvenilir bilimsel kanıtlarla karıştırmadan yapay zekâdan nasıl yararlanılabileceğidir.
Bu makale, Medmastery tarafından düzenlenen “Eğitim ve Araştırmalarda Yapay Zekâ” başlıklı web seminerinde ele alınan temel uygulama ilkelerini ve öne çıkan yaklaşımları özetlemektedir.
Bir Dil Modeli Gerçekte Nasıl Çalışır?
Büyük dil modelleri (Large Language Models – LLM), çoğu durumda bir veri tabanında önceden depolanmış tek ve kesin bir yanıtı geri çağırmaz. Bunun yerine, geniş kapsamlı metin koleksiyonlarından öğrendiği dilsel ve kavramsal örüntülere, ayrıca kullanıcı tarafından sağlanan talimatlara ve bağlama dayanarak ardışık metin parçaları (token) üretir.
Bu özellik, dil modellerinin bilgiyi açıklamasına, dönüştürmesine ve farklı kaynaklardan gelen unsurları akıcı bir biçimde bir araya getirmesine olanak sağlar. Bununla birlikte, önemli bir sınırlılık bulunmaktadır: Model, temel aldığı iddia yeterli bilimsel kanıtla desteklenmediği hâlde, ilk bakışta makul ve ikna edici görünen yanıtlar üretebilir.
Bir metnin akıcı, ayrıntılı, kendinden emin veya teknik terminoloji açısından zengin olması, içeriğin doğruluğunu ya da bilimsel geçerliliğini tek başına göstermez. Güven düzeyi, ayrıntı miktarı ve kullanılan uzmanlık dili; yanıtın biçimsel özellikleridir, ancak bunlar bilimsel kanıt niteliği taşımaz.
Bazı yapay zekâ sistemleri internet üzerinde arama yapabilmekte, belirli belgelere erişebilmekte veya uzmanlaşmış araçlardan yararlanabilmektedir. Bu yetenekler, modelin erişebileceği kanıt ve bilgi kaynaklarını genişletebilir. Ancak söz konusu özellikler, kanıtların hangi ölçütlere göre seçildiğinin ve nasıl yorumlandığının doğrulanması gerekliliğini ortadan kaldırmaz.
Etkili İstem Oluşturma: Bir Sihir Değil, Görevin Açık Biçimde Tanımlanmasıdır
Etkili istem (prompt) oluşturma süreci, gizli veya mucizevi bir komut cümlesi bulmaktan çok, gerçekleştirilecek görevin açık, kapsamlı ve sınırları belirlenmiş şekilde tanımlanmasıyla ilgilidir.
İyi yapılandırılmış bir istem aşağıdaki unsurları açık biçimde içermelidir:
- Yapay zekâdan gerçekleştirmesi istenen görev,
- Oluşturulacak içeriğin hedef kitlesi,
- Kullanılmasına izin verilen kaynak materyaller,
- Beklenen çıktı biçimi ve ayrıntı düzeyi,
- Kapsam dışında bırakılması gereken unsurlar,
- Belirsizliklerin ve bilimsel görüş ayrılıklarının nasıl sunulacağı.
Örneğin:
“Yalnızca ekli klinik kılavuzu kullanarak, akut iskemik inmede tromboliz tedavisinin endikasyonlarını ve kontrendikasyonlarını acil tıp asistanlarına yönelik olarak açıklayın. Güçlü önerileri, kanıtların sınırlı olduğu veya belirsizlik bulunan alanlardan açık biçimde ayırın ve her bir ifadenin ardından ilgili kılavuz bölümüne atıfta bulunun.”
Bu tür ayrıntılı ve sınırları belirlenmiş bir istem, yalnızca “bir uzman gibi davran” şeklindeki genel bir talimattan daha güvenilir sonuçlar üretme eğilimindedir.
Bir role atıfta bulunmak, oluşturulan içeriğin üslubunu, tonunu veya sunum biçimini şekillendirmeye yardımcı olabilir. Ancak bir rol tanımı, modele gerçek uzmanlık kazandıramaz ve eksik, yetersiz veya güvenilir olmayan bilimsel kanıtların yerini alamaz.
Uyum ve Benzerlik, Doğrulama Anlamına Gelmez
Bir yapay zekâ sisteminin verdiği yanıtın kullanıcının mevcut bilgileriyle veya beklentileriyle uyumlu olması, bu yanıtın doğruluğunu tek başına kanıtlamaz. Benzer şekilde, farklı yapay zekâ araçlarının aynı sonuca ulaşması da ilgili bilginin bağımsız olarak doğrulandığı anlamına gelmez.
Yapay zekâ tarafından üretilen bilgilerin; güncel klinik kılavuzlar, özgün bilimsel çalışmalar, sistematik derlemeler ve güvenilir akademik kaynaklar aracılığıyla değerlendirilmesi ve doğrulanması gerekmektedir.
Yapay zekâ, tıp eğitimi ve bilimsel araştırmalarda güçlü bir destek aracı olabilir. Ancak klinik muhakemenin, eleştirel düşünmenin ve bilimsel kanıtların değerlendirilmesine dayalı karar verme süreçlerinin yerini almamalıdır.
Birden Fazla Yapay Zekâ Sisteminin Aynı Yanıtı Vermesi Doğruluk Kanıtı Değildir
Aynı sorunun birden fazla yapay zekâ sistemine yöneltilmesi, farklı modeller arasındaki görüş ayrılıklarının veya tutarsızlıkların ortaya çıkarılmasına yardımcı olabilir. Ancak birden fazla modelin aynı yanıtı vermesi, söz konusu yanıtın doğru olduğunu doğrulamaz.
Dil modelleri, yaygın biçimde tekrarlanan aynı yanlış bilgiyi yeniden üretebilir, birbiriyle örtüşen veya benzer kaynak materyallere dayanabilir ya da benzer atıf hataları oluşturabilir. Bu nedenle yapay zekâ sistemleri arasındaki görüş birliği, kanıtların ayrıca incelenmesi için bir gerekçe olarak değerlendirilmelidir; kanıtların doğrulanmasının yerine geçmemelidir.
Tıbbi iddialar, mümkün olduğunca özgün ve birincil kaynaklar üzerinden kontrol edilmelidir:
- Kılavuzun özeti yerine kılavuzun kendisi,
- Bilimsel makaleye ilişkin yapay zekâ tarafından oluşturulmuş açıklama yerine makalenin özgün metni,
- Veri seti hakkında yapılmış bir değerlendirme yerine veri setinin kendisi,
- Pazarlama materyalleri yerine resmî düzenleyici veya mevzuat belgeleri
Kaynak gösterilen çalışmalar yalnızca atıf listesinde yer alıyor diye kabul edilmemeli; ilgili kaynaklar açılmalı ve doğrudan okunmalıdır. Bir atıf gerçekte mevcut olabilir ancak ilişkilendirildiği cümleyi yeterince desteklemeyebilir. Daha da önemlisi, gösterilen kaynak gerçekte hiç var olmayabilir.
Yapay Zekâ Desteğiyle Bilimsel Literatür Taraması
Araştırma odaklı yapay zekâ araçları; klinisyenlerin bilimsel makaleleri keşfetmesine, ilişkili çalışmaları belirlemesine, atıf ağlarını incelemesine ve belirli bir araştırma alanına ilişkin özetler oluşturmasına yardımcı olabilir. İndekslenmiş bilimsel literatürle bağlantılı çalışan araçlar, genel amaçlı internet aramalarına kıyasla daha nitelikli ve güvenilir bir başlangıç noktası sunabilir.
Bununla birlikte, yapay zekâ tarafından oluşturulan çıktılar yine de dikkatle değerlendirilmelidir.
Metin içinde yer alan bir atıf, ilgili bilimsel makalenin doğru ve eksiksiz biçimde temsil edildiğini garanti etmez. Yapay zekâ aracı; çalışmanın araştırma popülasyonunu, değerlendirilen sonlanım ölçütlerini, karşılaştırma grubunu veya bildirilen etkinin büyüklüğünü yanlış yorumlayabilir. Ayrıca kolay erişilebilen, iyi indekslenmiş veya sık atıf alan çalışmaları öne çıkarırken daha eski, olumsuz sonuç bildiren ya da İngilizce dışındaki dillerde yayımlanmış araştırmaları gözden kaçırabilir.
Yapay zekâ, bilimsel literatürün bulunması ve ön değerlendirilmesi sürecini önemli ölçüde hızlandırabilir; ancak tek başına sistematik derleme gerçekleştirmez. Literatürün eleştirel değerlendirilmesi, bilimsel kalitesinin analiz edilmesi ve bulguların anlamlı biçimde sentezlenmesi hâlâ araştırmacının sorumluluğundadır.
Eğitim Asistanı Olarak Yapay Zekâ
Dikkatli ve uygun biçimde kullanıldığında yapay zekâ, tıp eğiticilerinin hazırlayabileceği eğitim materyallerinin kapsamını ve çeşitliliğini genişletebilir. Yapay zekâ aşağıdaki amaçlarla kullanılabilir:
- Bir klinik vakanın farklı veya alternatif versiyonlarını oluşturmak,
- Hasta, sınav adayı veya sınav görevlisi rolünü simüle etmek,
- Eğitim materyallerini soru, test veya bilgi kartı (flashcard) biçimine dönüştürmek,
- Bir kavramı farklı bilgi ve deneyim düzeylerine uygun biçimde açıklamak,
- Tanısal yaklaşımları karşılaştırmak,
- Biçimlendirici ve gelişimi destekleyici geri bildirim sağlamak,
- Bir klinik veya bilimsel argümandaki olası eksiklikleri belirlemek.
Bununla birlikte, oluşturulan eğitim materyalinin bilimsel doğruluğundan nihai olarak eğitici sorumludur. Yapay zekâ tarafından üretilen klinik vakalar; kendi içinde çelişkiler, uygun olmayan varsayımlar veya klinik açıdan gerçekçi olmayan ayrıntılar içerebilir. Kullanıcıdan alınan geri bildirimler, yanıtın daha akıcı ve ikna edici hâle gelmesini sağlayabilir; ancak bu durum yanıtın güvenli, bilimsel açıdan doğru veya klinik olarak uygun olduğu anlamına gelmez.
Bilişsel Borçtan Kaçınmak
Klinik uzmanlık; bilgilerin tekrar tekrar yorumlanması, klinik örüntülerin tanınması, ayırıcı tanıların oluşturulması ve mevcut kanıtların klinik tabloyla uyumsuz olduğu durumların fark edilmesi yoluyla gelişir.
Yapay zekâ, klinisyenin bu görevleri kendisi gerçekleştirmeye çalışmasından önce söz konusu süreçleri üstlenirse, elde edilen zaman ve verimlilik artışı; klinik becerilerin zamanla zayıflaması veya körelmesi pahasına gerçekleşebilir. Bu durumda kullanıcı, yapay zekânın ne zaman ve neden hatalı olduğunu fark etme konusunda daha yetersiz kalabilir. Çünkü hatayı tespit etmek için gerekli olan düşünme ve muhakeme süreçleri devre dışı bırakılmıştır.
Bu riske karşı en etkili yaklaşımlardan biri, önce bağımsız olarak düşünmek, daha sonra yapay zekâya başvurmaktır. Bu yöntem sayesinde yapay zekâ, insan muhakemesinin yerini almak yerine onu genişleten ve destekleyen bir araç hâline gelir.
Eğitim açısından en uygun yaklaşım, klinisyenin aşağıdaki aşamaları izlemesini teşvik etmektir:
- İlk klinik yorumunu veya değerlendirmesini bağımsız olarak oluşturmak,
- Mevcut belirsizlikleri ve bilgi eksikliklerini belirlemek,
- Yapay zekâ tarafından sunulan yanıtı incelemek,
- Kendi değerlendirmesi ile yapay zekâ çıktısını karşılaştırmak,
- Tartışmalı veya belirsiz iddiaları güvenilir ve yetkili kaynaklar üzerinden doğrulamak.
Bilimsel Araştırmalarda Yapay Zekâ
Yapay zekâ; yinelenen ve zaman alan araştırma süreçlerinde günümüzde önemli ölçüde destek sağlayabilmektedir. Bunlar arasında tekrar eden kayıtların ayıklanması (deduplication), araştırma özetlerinin (abstract) ön taraması, verilerin çıkarılması ve bilimsel metinlerin dilsel açıdan düzenlenmesi yer almaktadır.
Bu tür uygulamalar, araştırmacıların daha fazla zamanlarını çalışma tasarımı, yöntemsel planlama ve bilimsel bulguların yorumlanması gibi daha yüksek düzeyde muhakeme gerektiren süreçlere ayırmalarına olanak tanıyabilir.
Bununla birlikte, yapay zekâ kullanımının sağladığı verimlilik artışı, araştırmacıların genel sorumluluğunu ortadan kaldırmaz. Araştırmacıların aşağıdaki hususları kayıt altına alması gerekir:
- Yapay zekâ sisteminden hangi görevin gerçekleştirilmesinin istendiği,
- Hangi yapay zekâ modeli ve model sürümünün kullanıldığı,
- Oluşturulan çıktıların hangi yöntemlerle kontrol edildiği,
- Gizli veya kişisel nitelikteki verilerin sisteme aktarılıp aktarılmadığı,
- Ortaya çıkan hataların yeniden üretilebilir veya denetlenebilir olup olmadığı,
- Yapay zekâ desteğinin bilimsel çalışmada açık biçimde beyan edilip edilmediği.
İnsan araştırmacının görevi yalnızca araştırma soruları üretmek değildir. Araştırmacı aynı zamanda hangi soruların bilimsel açıdan anlamlı ve araştırmaya değer olduğuna, ayrıca hangi tür kanıtların bu sorulara yeterli ve anlamlı bir yanıt oluşturacağına karar vermelidir.
Gizlilik, Atıf, Yazarlık ve Yönetişim
Hastayı doğrudan veya dolaylı olarak tanımlamaya olanak sağlayabilecek bilgiler, henüz yayımlanmamış bilimsel çalışmalar ve gizli veri setleri; ilgili kullanım yetkilendirilmeden ve yapay zekâ sisteminin verileri nasıl işlediği yeterince anlaşılmadan yapay zekâ araçlarına aktarılmamalıdır.
Klinisyenler ve araştırmacılar ayrıca kurumlarının ve ilgili kuruluşların atıf, yazarlık ve yapay zekâ kullanımının beyan edilmesine ilişkin yerel politika ve düzenlemelerine uymalıdır.
Yapay zekâ, ortaya çıkan bir hatanın sorumluluğunu üstlenemez, yöntemsel bir tercihi bilimsel olarak savunamaz veya akademik yazarlık için gerekli sorumluluk ve katkı ölçütlerini yerine getiremez. Bu yükümlülükler ve sorumluluklar her zaman insanlara aittir.
Sonuç
Yapay zekâ, tıp eğitimi ve bilimsel araştırma süreçlerini daha hızlı ve verimli hâle getirebilir. Ancak aynı zamanda zayıf, eksik veya hatalı bir muhakemeyi akıcı, düzenli ve bilimsel açıdan ikna edici görünen bir biçimde sunabilir.
Yapay zekâ; yeni olasılıklar üretmek, bilgileri yeniden düzenlemek, farklı biçimlerde yapılandırmak ve tekrarlayan görevleri azaltmak amacıyla en verimli şekilde kullanılabilir. Buna karşılık, yapay zekâ tarafından oluşturulan içerikler sorgulanmadan kabul edilen mutlak bir bilgi veya doğruluk kaynağı olarak değerlendirilmemelidir.
Araştırmacılar ve eğiticiler, yapay zekâya verilecek görevi açık ve ayrıntılı biçimde tanımlamalı, bağımsız düşünme ve eleştirel muhakeme süreçlerini korumalı ve bilimsel iddiaları özgün, güvenilir ve yetkili kaynaklar üzerinden doğrulamalıdır.
Kaynaklar:
- Wiesbauer F. AI for Teaching and Research Medmastery Free Webinar
- Wiesbauer F. Trustworthy AI in Cardiology LITFL
- Elshahati N. AI Scribes for Clinical Practice. LITFL
- Wiesbauer F. ChatGPT Essentials for Clinicians. Medmastery
admin
YAZARSite Kurucusu. Maceraperest acil tıpçı
