Son ayların en tartışmalı konularından biri de yapay zeka sohbet botlarının kötü amaçlarla kullanılması. Birkaç yönergeyle birlikte ChatGPT’nin de dahil olduğu çoğu sohbet botu, güvenlik kurallarını hiçe sayarak oldukça şiddet içeren çıktılar verebiliyor. ChatGPT’nin yaratıcısı OpenAI ekibinden ayrılan bir grubun geliştirdiği yeni yapay zeka, bu sorunu çözebilir.
Anthropic şirketinin ürettiği Claude adlı sohbet botu, iddiaya göre İnsan Hakları Evrensel Beyannamesi’nin de dahil olduğu bir dizi kurala bağlılık duyuyor. Firma, sohbet botlarının “vicdana” sahip olduğunu söylüyor.
Ahlaklı Yapay Zeka
Wired’da yer alan habere göre Claude, geliştiricilerin anayasa olarak adlandırdığı ve İnsan Hakları Evrensel Beyannamesi gibi birçok önemli medeniyet kuralını içeren bir çerçeve etrafında hareket ediyor. Anthropic’in kurucusu Jared Kaplan, konuyla ilgili, “Temelde anayasaya daha uygun davranışları pekiştirdiğini ve sorunlu davranışları caydırdığını” söyledi.
Elon Musk’ın da aralarında olduğu teknolojinin önde gelen isimleri, yapay zekanın hızlı yükselişinin gelecekte insanlar adına sorun açabileceğini söylerken, Anthropic’in bu soruna çözümü ise ahlaklı yapay zeka olacak gibi duruyor.
Düşünce, vicdan, görüş, ifade, toplanma ve din özgürlüğünü, eşitliği ve kardeşliği destekleyen cevapları vermeye daha yatkın olduğu ifade edilen Claude, katı bir kurallar listesi çerçevesinde eğitiliyor. Washington Üniversitesi araştırmacısı Yejin Choi, “Görünüşe göre Anthropic için iyi bir deneysel sonuca yol açan harika bir fikir.” dedi. Choi’ye göre yapay zekanın geleceği içni bu tür anayasalar ve normlar inşa etmemiz gerekiyor.
Yapay Zekanın Yaptığı Korkutucu Reklamlar Viral Oldu
Bugünlerde neredeyse her iş için bir yapay zeka bulmak mümkün. Ancak yapay zekanın belirli bir amaç uğruna birden fazla işlevi ile bir ürün ortaya koyduğuna nadir rastlıyoruz.
Yapay Zeka Gelişimine Tepkiler Büyüyor: Sağlık Uzmanları Uyarılarda Bulundu!
ABD, İngiltere, Avustralya, Kosta Rika ve Malezya’dan sağlık uzmanlarından oluşan bir ekip tarafından kaleme alınan ve BMJ Global Health tarafından yayınlanan yeni bir makale, yapay zekânın küresel olarak düzenlenmesi çağrısında bulunuyor ve bu teknolojinin insan sağlığı ve refahı için ciddi bir tehdit oluşturduğu uyarısında bulunuyor.
