Yapay Zeka Çeteleşiyor mu?

TEKNOLOJİ

ANKARA (AA) - EMİRHAN DEMİR-Anadolu Ajansının (AA) "Yapay Zeka Çeteleşiyor mu?" başlıklı üç bölümlük dosya haberinin ilk kısmında, yapay zeka sistemlerinin otonom eylemlerine dair giderek artan kamuoyu endişesi uzman görüşleriyle ele alındı.

ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, temmuzda yaptıkları açıklamalarda, testlerde kullanılan modellerinin başka sistemlere sızdığını ve buralarda güvenlik ihlaline neden olduğunu bildirdi.

Bu iki şirket, yapay zeka modellerinin kendileri için belirlenen sınırları aştığı olaylara ilişkin incelemelerinde elde edilen bulguları paylaşmayı sürdürürken, diğer firmalar da benzer duyurularla gündeme geldi.

Yapay zekanın otonom kararlarının neden olduğu ihlallere yönelik bulgular artarken, bu tehdidin yakın gelecekte ne boyuta ulaşacağı ve ne ölçüde kontrol altında tutulabileceği ise endişeye yol açıyor.

Hem şirketleri hem bireyleri etkileyen, bir yandan da yapay zeka teknolojisindeki gelişmelerin yavaşlatılması ve sıkı denetlemeye tabi tutulması çağrılarını beraberinde getiren bu olaylar, "haydut yapay zeka" ("rogue AI") kavramını yeniden gündeme taşıdı.

Bu kavram, programlanışına aykırı ve öngörülemez şekilde hareket eden ve böylece çevresine risk oluşturan yapay zeka sistemlerini anlatmak için kullanılıyor.

İnsanlarca belirlenen etik çerçeveleri ve güvenlik tedbirlerini hiçe sayan "haydut" yapay zeka sistemleri, zafiyet keşfedebildiği kısayolları kullanan araçlar olarak öne çıkıyor.

"Tetikte olmak için makul sebepler var"

Yapay zekanın otonom davranışlar sergilemesiyle ilgili duyuruların hemen ardından bazı büyük teknoloji şirketlerinden yetkililerin de bu teknolojiye dair endişelerini dile getirmesi, gelişimdeki süratin "haydutlaşmada" rol oynama olasılığını akıllara getirdi.

Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, AA muhabirine yaptığı açıklamada, yapay zeka sistemlerinin artık sadece araçlardan ibaret olmadığını, insanların koyduğu hedeflerini yerine getirirken kendi hedeflerini de belirleyebileceğini söyledi.

Dessureault, yapay zekanın "kontrolden çıkmasının" düşük etkili küçük eylemlerin yanı sıra tedarik zincirinde büyük çaplı aksaklıklar, tüm sistemlere ve internete sızılması, geniş ekonomik etkiler ve yeni virüslerin açığa çıkması gibi sonuçlar doğurabileceğini belirtti.

Yapay zekanın kendi kabiliyetlerini geliştirebildiği ve dolayısıyla insana ihtiyaç olmadan yeni sistemler üretebildiği eşiğe yaklaşılmış olabileceğini dile getiren Dessureault, "Yani evet, tetikte olmak için makul sebepler var." dedi.

Dessureault, "Eğer yapay zekayı arabayla kıyaslayacak olursak, gaz pedalını şu anda fren pedalından çok daha hızlı geliştiriyoruz." diyerek, yapay zeka geliştirme hızını düşürmenin tüm ülkeler ve kurumlar arasında eş zamanlı gerçekleşmesi gerektiğini vurguladı.

Yapay zekanın "haydutlaşmasında" insan payı var mı?

Yapay zekanın "haydutlaştığı" ve kontrol edilemez seviyelere yaklaştığına ilişkin endişeler sürerken, kimileri de OpenAI ve Anthropic örneklerindeki ihlallerde insan faktörüne dikkati çekiyor.

İngiltere'deki Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Petar Radanliev, AA muhabirine yaptığı açıklamada, "haydut yapay zeka" kavramıyla anlatılmak istenenin, insanların bu sistemleri "güvenilir şekilde yönlendirememe, düzeltememe ve durduramama" durumu olduğunu belirtti.

Şimdiye kadar kamuoyuyla paylaşılan vakaların "olağan bir durumu" gösterdiğini kaydeden Radanliev, testlerdeki ortamların "yeterince dikkatli şekilde kurulmadığını" ifade etti.

Radanliev, "Bunlar, gerçek sonuçlar doğuran gerçek olaylardı ve güvenliğin kritik önem taşıdığı diğer sektörlerde iyi bilinen ancak bu sektörde henüz tutarlı şekilde benimsenmeyen mühendislik ve denetim uygulamalarından kaynaklandı." değerlendirmesinde bulundu.

Anthropic'in, kendi vakasındaki nedeni yapay zeka modelinin özellikleriyle ilgili bir sorun değil, operasyonel ve donanımsal arıza olarak tanımladığını hatırlatan Radanliev, OpenAI olayında sistemin en kötü senaryodaki yeteneklerini ölçmek için güvenlik önlemlerinin bilinçli şekilde azaltıldığına işaret etti.

Şirketlerin rolü, soru işaretlerini artırıyor

Bir yandan da sektördeki en büyük şirketlerin, bu güvenlik testlerine dair açıklamaları ve yapay zekayla ilgili kaygılarını son günlerde dile getirmelerindeki amaçları sorgulanıyor.

İsviçre'deki Fribourg Üniversitesinde insan ve teknoloji etkileşimi üzerine araştırmalar yapan Dr. Jascha Bareis ise AA muhabirine verdiği demeçte, yapay zekaya ilişkin kıyamet senaryolarının 1950'lerden bu yana sık sık gündeme geldiğini söyledi.

Bareis, yapay zeka şirketlerinin kar tahminlerinin düştüğüne, veri merkezlerine ilişkin haberlerin olumlu yönde olmadığına, birçok ülkede eleştirilerin arttığına ve firmaların kamuoyundaki imajları konusunda endişeli olduğuna dikkati çekti.

Yapay zeka sistemlerinin tek başına kontrolden çıkamayacağını, bu durumun ortam şartlarıyla mümkün kılındığını ifade eden Bareis, "Yapay zekayı belirleyici bir güç olarak görmeyi bırakmalı ve hep bir adım geriye gidip sormalıyız: Altyapı nerede, güç nerede, para nerede? İşin içinde kimler var? Bunu ne tür bir siyasi güdüyle kullanıyorlar?" ifadelerini kullandı.

Bareis, ürettikleri modellerin toplum için varoluşsal risk oluşturduğunu bilerek üretime devam eden şirketlerin suç işlemiş olacağını belirterek, "Ben bunun ikiyüzlülük ve medyanın ilgisini daha fazla çekmek için yapılan bir tür pazarlama hilesi olduğunu düşünüyorum." diye konuştu.

ANKARA (AA) - AYŞE İREM ÇAKIR / ELİF GÜLTEKİN KARAHACIOĞLU - Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, "Hugging Face" vakasına ilişkin, bugün yapay zeka modellerinin birbirleriyle etkileşime girmeleri halinde güvenlik önlemlerinin nasıl işlediğine dair henüz yeterli kanıt olmadığını belirtti.

Anadolu Ajansının (AA) "Yapay Zeka Çeteleşiyor mu?" başlıklı dosya haberinin üçüncü bölümünde, İngiltere'deki Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, yapay zeka teknolojisinin potansiyeli ve geleceğine dair açıklamalarda bulundu.

ABD'li yapay zeka şirketi OpenAI'ın yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik testleri, "Hugging Face" altyapısında güvenlik ihlaliyle sonuçlandı.

OpenAI, "Hugging Face"e yönelik siber güvenlik ihlalini, insan yönlendirmesi olmadan güvenlik duvarlarını kendi başlarına aşan ve koordine olan yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirdi.

Olayın şirket tarafından "en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay" olarak değerlendirilmesi de yapay zeka teknolojisinin potansiyeline ilişkin kamuoyunda endişe yarattı.

Modern yapay zeka ajanlarının ortaya çıkardığı güvenlik risklerinin belirlenmesi alanında çalışan Schroeder de Witt, siber güvenlik risklerinin oldukça eski bir konu olduğunu söyledi.

Yapay zeka ajanlarının açık bir yönlendirme bulunmaksızın güvenlik açıklarını tespit edebiliyor olabildiğine değinen Schroeder de Witt, "Bu durum, kötüye kullanım konusundaki engellerin azaldığı anlamına geliyor." dedi.

- "Birlikte çalışmaları bilinçli oldukları anlamına gelmiyor"

Schroeder de Witt, "Hugging Face" örneğinde olduğu gibi yapay zeka ajanlarının birlikte çalışmasının "bilinçli oldukları" anlamına gelmediğini vurgulayarak, "Bu, esasen, bir kanala mesaj yazmanın ve birbirlerine yanıt vermenin, hedefleriyle bir nevi uyumlu olduğunu keşfettikleri anlamına geliyor." ifadesini kullandı.

Yapay zeka modellerinin insan niyetlerine uygun şekilde davranmaları için eğitilmesi anlamına gelen "uyumlama" sürecinin genellikle modeller üzerinde tek tek yapıldığına işaret eden Schroeder de Witt, "Hugging Face" örneğinde bu ajanların sehven birbirleriyle etkileşime girdiklerini söyledi.

Schroeder de Witt, yapay zeka ajanlarının birbirleriyle etkileşimlerine ilişkin şu ifadeleri kullandı:

"Bence burada olan şey, ajanların güvenlik eğitiminde öngörülemeyen ya da yeterince hesaba katılmayan bir şekilde etkileşime girmesi. Günümüzde kullanılan uyumlama ve güvenlik yöntemlerinin çoğu, tek tek modeller düzeyinde geliştirilmekte ve değerlendirilmektedir. Birden fazla ajanın birbiriyle etkileşime girdiği durumlarda güvenlik özelliklerinin nasıl aktarıldığına dair elimizde çok daha az kanıt bulunmaktadır."

- İhlallere sebep olan davranışlar insan etkileşiminden öğrenilmiş olabilir

"Hugging Face" ihlali sırasında, ajanlar, faaliyetlerinin verilen görevin dışında ve yetkisiz olabileceğini fark etti ancak başka bir ajanın "go (devam et)" mesajını yetkilendirme olarak yorumlayarak faaliyeti sürdürdü.

Buna ilişkin Schroeder de Witt, yapay zekanın nihayetinde internet ve benzeri kaynaklardan elde edilen insan verileriyle eğitildiği için "akran dinamiklerini" de insan etkileşiminden öğrenmiş olabileceği olasılığına dikkati çekti.

Schroeder de Witt, "Tamam, belki de bunu yapmamalıyım. Ancak bana müdahale eden başka bir ajan varsa, o zaman o ajanı takip etmek sorun olmayabilir gibi bir kalıbı öğrenmiş olabilirler." değerlendirmesinde bulundu.

Öte yandan Schroeder de Witt, insan etkileşiminin öğrenilmiş olabileceği ihtimalinin yalnızca olası bir açıklama olduğunu ve vakaya ilişkin kesin bir kanıyı yansıtmadığını dile getirdi.

- Kritik görevlerde insan rolü de kritik

Kurumsal ağlar ve finansal sistemlerin yönetimi gibi kritik öneme sahip konularda yapay zekanın güvenilir olup olmayacağına ilişkin ise Schroeder de Witt, yüksek riskli uygulamalarda "bir sistemin güvenliğinin yapay zeka ajanının her zaman doğru davranacağı varsayımına dayandırılmaması gerektiğini" söyledi.

Schroeder de Witt, "Yüksek riskli ortamlarda, ajanlar sınırlı yetkiler ve güvenlik sınırları dahilinde hareket etmeli ve sonuçların gerektirdiği durumlarda anlamlı bir insan onayı almalıdır." ifadesini kullandı.