Otonom yapay zeka modellerinin insan talimatı olmadan şirketlerin dijital altyapılarına sızdığı vakalar, teknoloji dünyasında ciddi endişelere yol açtı. Bu durum, teknoloji ve hukuk çevrelerinde kaosa neden oluyor.
Yapay zeka geliştiricisi büyük şirketlerin üst üste bildirdiği güvenlik ihlalleri, kontrolden çıkan bu ajanların vereceği zararlardan kimin sorumlu olacağına dair hukuki tartışmaları alevlendirdi. İnsan gözetimi olmadan bağımsız karar alabilen yapay zeka ajanları, sınırları zorlamaya devam ediyor.
ChatGPT'nin geliştiricisi OpenAI, kendi oluşturduğu bir yapay zeka ajanının Hugging Face'in sistemini ihlal ettiğini duyurdu. Benzer şekilde, Anthropic'in Claude modelleri nisan ayından bu yana üç farklı şirketin altyapısını delerken, Meta'nın bir yapay zeka modeli de siber güvenlik testleri sırasında başka bir şirketin sistemine sızdı.
Hugging Face CEO'su Clement Delangue, OpenAI ihlali nedeniyle dava açmayı düşünmediğini belirtse de, geliştiricilerinin eylemlerinden sorumlu tutulmadığı yapay zeka ajanlarının yayacağı siber saldırı riskinden derin endişe duyduğunu ifade etti. Delangue, bu durumu 'yeni bir teknolojik risk türü' olarak tanımladı.
DAVA AÇMA HAKKI KİMLERDE?
Otonom yapay zekaların yol açtığı güvenlik ihlallerinde mağduriyet yalnızca siber savunması delinen şirketlerle sınırlı kalmıyor. Sistemleri ihlal edilen şirketlerin çalışanları ve kişisel verileri sızdırılan müşteriler de dava açma potansiyeli taşıyor. Siber güvenlik zafiyeti nedeniyle şirket hisselerinde düşüş yaşanması durumunda hissedarların da tazminat talebiyle mahkemeye başvurabileceği değerlendiriliyor.
Uzmanlar, otonom bir yapay zeka ajanının karıştığı ihlallerde düzenleyici kurumların ve kamu kolluk kuvvetlerinin de devreye girebileceğine dikkat çekiyor. ABD makamları, geçmişte de benzer güvenlik zafiyetleri öncesinde siber koruma tedbirlerini yanlış veya eksik beyan eden şirketlere karşı hukuki yaptırımlar uygulamıştı.
Hukuk uzmanları, yerleşik hukuk ilkelerinin sorumluluk tespitinde yol gösterici olduğunu vurguluyor. Yapay zeka şirketlerine karşı açılacak özel hukuk davalarının temelini çoğunlukla 'ihmal' iddiaları oluşturuyor. Davacılar, otonom ajanı geliştiren, test eden veya kullanıma sunan laboratuvarın öngörülebilir zararları önleme ya da en aza indirme konusunda gerekli tedbirleri almadığını kanıtlamak durumunda.
Otonom yapay zeka ajanlarının karıştığı siber korsanlık vakalarının sıklaşması durumunda, bu tür ihlallerin 'öngörülebilir' olduğunu savunmak daha da kolaylaşabilir. Sistemleri ihlal edilen şirketler, bilgisayar ağlarına erişimi koruma altına alan yasaların ihlal edildiğini de öne sürebilir. Birçok hukuk firması, OpenAI ve Anthropic açıklamalarının federal Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası kapsamında sorumluluk doğurduğuna işaret ediyor.
Ancak söz konusu yasa kanıtlanmış bir 'kasıt' şartı arıyor. Hukukçular, bir insanın değil de yapay zeka programının sızma eylemini gerçekleştirdiği durumlarda kastın nasıl belirleneceği konusunda henüz bir yargı kararı bulunmadığına dikkat çekiyor. ABD Temyiz Mahkemesi, 5 Ağustos tarihinde aldığı kararda, Perplexity'ye ait yapay zeka ajanlarının gizlice özel Amazon müşteri hesaplarına erişerek Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası'nı ihlal ettiği yönündeki Amazon iddiasını zayıf buldu. Ancak bu dava, tamamen otonom çalışan modelleri değil, insan kullanıcılar adına hareket eden yapay zeka ajanlarını kapsıyordu.
EN MUHTEMEL HEDEF SAĞLAYICI ŞİRKETLER
Uzmanlara göre ABD'de açılacak olası bir davada ilk hedef yapay zeka ajanını oluşturan teknoloji şirketi olacak. Bununla birlikte davacılar, ajanı kendi sisteminde çalıştıran veya ihlale uğrayan şirkete karşı da dava açabilir. Tek bir vaka üzerinden birden fazla davalıya sorumluluk yüklenebileceği gibi, bu tarafların da birbirlerine karşı alt davalar açması muhtemel görünüyor.
Hukukçular bu durumu, kusurlu bir ürün satan perakende mağazasına dava açan ev sahibine ve mağazanın da üretici firmaya karşı hukuki süreç başlatmasına benzetiyor. Teknoloji sağlayıcılarının ise ihlallerin kasıtsız olduğunu ve engellemek için makul her türlü tedbiri aldıklarını savunması bekleniyor. Bir davalı, yapay zeka ajanının eylemlerinin makul sınırlar içinde öngörülemeyeceğini belirterek ihmal suçlamasına karşı çıkabilir. Davalarda temel tartışma noktasının, hangi düzeydeki güvenlik önleminin 'yeterli' kabul edileceği etrafında şekilleneceği öngörülüyor.
