Yapay Zekâ İle Gelen Başarılar ve Güvenlik Korkuları


Yapay Zekâ İle Gelen Başarılar ve Güvenlik Korkuları

Son yıllarda artan veri kalitesi, çeşitliliği ve boyutu ile büyük verileri işleme teknolojilerinin gelişmesi, yapay zekâ çalışmalarını arttırmış ve yeni çözümlerin geliştirilmesinin önü açmıştır. Üretken ön işlemeli yapay zekâ (YZ) dönüştürücü olarak tercüme edilen GPT-3 (açık kaynak yapay zekâ modeli, GPT serisinin son modeli), bugünlerde üzerinde çalışılan yapay zekâ çözümlerinden biri olup dünyada hem heyecan yaratan hem de korkuları büyüten çalışmalardan birisidir.

 OpenAI (açık kaynak yapay zekâ laboratuvarı) tarafından geliştirilen bu yapı, bir doğal dil işlemeye (NLP) dayalı derin yapay sinir ağı modellerini içerisinde barındırmaktadır. Veri bilimi, veri işleme, veri madenciliği, veri düzenleme, veri ilişkilendirme, veri anlama gibi benzer alanlardan faydalanarak sorulan veya girilen sorulara yüksek doğrulukta cevap verme becerisine sahip, önceki modellerden daha büyük, zeki ve yeni pek çok becerileri olan bu yapı, öğrenmesini de tamamen internetteki verilerden ve mevcut veri tabanlarından sağlamaktadır. 2015 yılında başlanılan çalışmalar; 2017’de ilk ürün olarak tanıtılmış, derin öğrenme tabanlı dönüştürücü adı verilen bir yapay sinir ağı modeline dönüşmüş ve son ürün olan GPT-3 tanıtılmıştır. GPT çalışmalarında; 2018’de YZ modellerinin öğrenmesini sağlayan bağlantılar için 110 milyon öğretilebilir parametre, 2019’da tanıtılan GPT-2 için 1,5 milyar öğretilebilir parametre, Temmuz 2020’de tanıtılan GPT-3 için 175 milyar öğretilebilir parametre kullanılarak eğitildiği raporlanmıştır. GPT-3'ün eğitilmesinde kullanılan veri kümelerinin; %60'ının 410 milyar veriden oluşan filtrelenmiş Common Crawl’dan, %22'sinin internetteki verilerden, %16'sının şimdiye kadar yayımlanmış kitaplardan ve %3'ünün ise Wikipedia'dan alındığı bilinmektedir. Ayrıca, bu modelin eğitilmesinin büyük bir altyapı ve kaynak gerektirdiği, mesela sadece modeli eğitmek için 12 milyon dolar harcama yapıldığı raporlanmıştır.

GPT-3 ile yapılan çalışmalara bakıldığında ise;

  • "Şimdiye kadar üretilen en ilginç ve önemli YZ sistemlerinden birisi" olarak tanımlandığı,
  • Bu modelin; şiirler yazabildiği, tercümeler yapabildiği, röportaj yapabildiği, aforizma ve deyimler üretebildiği, yeni programlar veya kodlar geliştirebildiği, otomatik internet sayfaları geliştirebildiği, kişileri, davranışları veya kişilikleri taklit edebildiği, tasarımlar yapabildiği, verilen örneklerden öğrenip yenilerini üretebildiği, sınav soruları hazırlayabildiği, yazılan metinlere benzer içerikler üretebildiği, eksik içerikleri tamamlayabildiği, belirlenen bir konuda yeni makaleler yazabildiği, kişilerin yazma sitillerini anlayabildiği, kişiye özel çıktılar üretebildiği geliştirilen uygulamalardan anlaşılmaktadır. Bu tür örneklerin sayısının hızla arttığını da belirtmekte fayda vardır.

GPT-3 araştırmacıları yayımladıkları makalelerinde, bu YZ modelinin potansiyel zararlı etkileri olabileceğini de belirtmişlerdir.

Pekâlâ, YZ bu kadar faydalı iken pek çok alanda başarı ile uygulanır iken ve şaşırtıcı derecede iyi sonuçlar verir iken bizlere korkutucu gelen, endişe uyandıran veya bizleri tehdit eden hususlar nelerdir?

  • Sadece GPT-3 değil YZ temelli sistemler artık otonom sistemler olmaya, kendi kendilerine öğrenebilen ve karar verebilen sistemler olmaya başladıkları için bizleri korkutan en önemli yanı budur.
  • GPT-3’te de bu husus vardır. Yanlış bilgi üretimi, istenilmeyen e-posta, kimlik avı saldırıları, sazan avlama, yapının farklı şekillerde kötüye kullanımının mümkün olması, yazma sitillerini anladığından ve kişiye özel çözümler ürettiğinden elektronik ortamlarda kandırmacanın artmasına sebep olabileceği, sahte akademik makale yazarak dergileri kandırma, kişileri farklı sosyal mühendislik saldırılarına maruz bırakma, çevrimiçi sahte haber üretmeye veya yaymaya yardımcı olabilecek yanlış metinler üretme, yayma ve infial oluşturma, yapılacak saldırıları kolaylaştırma, kişileri taklit ederek başkalarını aldatma gibi risklerin bulunması bunun ana sebebidir. Önceki versiyon olan GPT-2 (2019) için, “en tehlikeli yapay zekâ teknolojisi” hatta “robot kıyametini” tetikleyeceğini savunanların olduğu dikkate alındığında, GPT-3’ün sahip olduğu üstün ve gelişmiş yetenekler değerlendirildiğinde sonucun neden daha korkutucu olduğu daha iyi anlaşılmaktadır.
  • Microsoft’un GPT-3’e benzer “Turing NLG” ürününün olması, IBM Watson destekli farklı çözümlerinin bulunması, Google Now ve buna benzer artık pek çok ürünün piyasada olması,
  • Otonom sistemlerde yaşanan kazalar,

bizlere bu korkuları yaşatmaktadır. YZ’nın artık bir tehdit olarak sıkça konuşulması ve YZ hukukunun tartışılması da bunun diğer göstergeleridir.

Peki, burada yapılması gereken hususlar nelerdir?

  • Öncelikle bilimin ve bilimsel çalışmaların olduğu yerlerde bu korkulara gerek yoktur. Karşılaşılabilecek riskler her zaman dikkate alınarak çözümler geliştirilmesi mümkündür. Bunun bilinmesi gereklidir.
  • İkinci önemli husus ise nitelikli Ar-Ge yapacak ileri düzey laboratuvarların kurulması ve araştırmacılara açılmasıdır.
  • Üçüncü husus ise; YZ’nın ülke gelişimine, verimliliğine, otomasyonuna, kaliteli işler yapılmasına katkı vereceği unutulmadan çalışmaların yapılması, buna ilave olarak mutlaka karşılaşılabilecek olası risklerin belirlenmesi ve azaltılmasına yönelik araştırmalar ve projeler geliştirilmesidir.
  • Dördüncü önemli husus ise üniversitelerimizin bu konuya daha çok önem vermesi, laboratuvar sayılarını artırması, nitelikli projeleri desteklemesi, YÖK’ün kritik alanları desteklemek için üniversitelere verdiği desteklerden ve açılan programlardan mutlaka faydalanmalarıdır.

Sonuç olarak, "şimdiye kadar üretilen en ilginç ve önemli YZ sistemlerinden birisi" olarak tanımlanan GPT-3’ün gerek inovasyon ve teknoloji geliştirmede yeni bir bakış açısı sunması gerekse olası tehdit ve tehlikelerinin farkında olunması ve önlemler alınması için mutlaka çalışmalar yapılmalıdır. Ülkemizde de yerli ve milli çözümleri, en önemlisi ise kendimizin de benzer GPT-3’leri geliştirmemiz gereklidir.

 

 

 

Prof. Dr. Şeref Sağıroğlu

CyberMag Dergisi Editörü



İlginizi Çekebilecek Yazılar







İletişim | Gizlilik | Kullanım Koşulları