Yapay zeka sektörünün en büyük rakipleri, gelişmiş modellerin yol açabileceği risklere karşı ortak güvenlik standartları oluşturmak üzere temaslarını artırdı.
OpenAI Küresel Politika Sorumlusu Chris Lehane, Washington’da gazetecilere yaptığı açıklamada şirketin rakipleri Anthropic ve Google DeepMind ile birkaç haftadır yapay zeka güvenliği konusunda çalıştığını söyledi.
Lehane, şirketlerin güvenlikle ilgili konularda birlikte hareket edebilmesi için özel bir rekabet hukuku muafiyetinin gerekli olduğunu düşünmediklerini belirterek, güvenliği önceliklendirmek amacıyla iş birliği yapılmasının daha doğru olacağını ifade etti.
Reuters, haberin ilk olarak Bloomberg tarafından duyurulduğunu belirtirken OpenAI, Anthropic ve Google’ın Reuters’ın yorum taleplerine hemen yanıt vermediğini ve ajansın görüşmeleri bağımsız olarak doğrulayamadığını kaydetti.
Amodei üç aşamalı yol haritası önerdi
Şirketler arasındaki temasların ortaya çıkması, Anthropic CEO’su Dario Amodei’nin sektörün gelişmiş yapay zeka sistemlerine yaklaşımında değişikliğe gidilmesi çağrısının hemen ardından geldi.
Amodei, yapay zeka çalışmalarının tamamen durdurulmasını değil, güvenlik mekanizmalarının teknolojik ilerlemeye yetişebilmesi için en gelişmiş modellerin geliştirilme hızının kontrollü biçimde azaltılmasını önerdi.
Reuters’a göre Amodei’nin üç aşamalı yaklaşımı; yapay zeka laboratuvarlarında bağımsız güvenlik değerlendiricilerinin görev yapmasını, önde gelen şirketlerin ortak güvenlik standartları konusunda koordinasyon kurmasını ve daha ileri aşamada risklere karşı uluslararası iş birliği geliştirilmesini öngörüyor.
Anthropic halihazırda gelişmiş sistemlerin güvenlik ve kötüye kullanım risklerine yönelik çeşitli programlar yürütüyor. Şirket, eylül ayında yayımladığı tehdit raporunda Claude modellerinin siber operasyonlar, gözetim, dolandırıcılık, biyolojik araştırmalar ve silah geliştirme gibi alanlarda kötüye kullanılmaya çalışıldığı vakaları tespit ettiğini açıklamıştı.
Altman ve Musk'tan destek
Amodei’nin çağrısı teknoloji sektöründe de yankı buldu. OpenAI CEO’su Sam Altman, bağımsız üçüncü tarafların yapay zeka laboratuvarlarının güvenlik çalışmalarını değerlendirmesine destek verdi. Reuters ve TechCrunch’a göre Elon Musk da Amodei’nin daha kontrollü ilerleme çağrısına destek veren teknoloji yöneticileri arasında yer aldı. Google DeepMind CEO’su Demis Hassabis de koordineli güvenlik çalışmalarını destekleyen isimlerden biri oldu.
OpenAI da 9 Eylül’de yayımladığı politika metninde, gelişmiş sistemler için zorunlu ve yetenek seviyesine dayalı ulusal yapay zeka güvenliği kurallarını desteklediğini açıklamıştı. Şirket ayrıca bağımsız güvenlik değerlendirmelerine yönelik düzenlemelere destek vereceğini bildirdi.
Trump: Yavaşlama Çin'in işine yarar
ABD Başkanı Donald Trump ise sektör içerisindeki yavaşlama ve daha sıkı düzenleme çağrılarına mesafeli yaklaşıyor.
Trump, yapay zekaya ilişkin güvenlik endişeleri üzerinden yeni düzenlemeler getirilmesi yönündeki çağrıları “aldatmaca” olarak nitelendirdi ve ABD’nin teknoloji yarışındaki hızını kesmesinin Çin’e avantaj sağlayacağını savundu. Trump yönetiminin yaklaşımı, Washington’da yapay zekanın güvenliği ile ABD’nin Çin karşısındaki teknolojik rekabet gücü arasında nasıl bir denge kurulacağı tartışmasını da büyüttü.
Tartışmalar sürerken OpenAI, 16 Eylül’de ayrıca yapay zeka sistemlerinde görülen beklenmedik veya yetkisiz davranışları düzenli biçimde kamuoyuna açıklamak için yeni bir raporlama çerçevesi oluşturduğunu duyurdu.
