Yapay zekâ araştırmacısı Jacob Coxon, sektörün en büyük şirketleri arasındaki rekabetin güvenlik risklerini geri plana ittiğini öne sürerek Anthropic’teki görevinden istifa etti.
Daha önce OpenAI’da da çalışan ve son üç yıldır iki şirkette yapay zekâ modellerinin ön eğitim süreçleri üzerine araştırmalar yürüten Coxon, ayrılık kararını sosyal medya hesabından duyurdu. Coxon, OpenAI ve Anthropic’in giderek daha güçlü sistemler geliştirmek için hızla ilerlediğini, ancak bu sürecin doğurabileceği sonuçlara karşı yeterince sorumlu davranmadığını savundu.
Coxon, iki şirketi “kendi kendini geliştirebilen süper zekâya” ulaşmak için yarışmakla suçlayarak, “Hayatlarımızla kumar oynuyorlar” ifadesini kullandı. Gelişmiş yapay zekâ sistemlerinin gelecekte siber güvenlikten bilimsel araştırmalara kadar birçok alanda insan kapasitesini aşabileceğini belirten Coxon, bu gücün kontrol edilememesi halinde ağır sonuçlar doğurabileceği uyarısında bulundu.
Araştırmacı, yapay zekâ laboratuvarları arasında daha güçlü bir koordinasyon kurulmasını ve güvenlik mekanizmaları yeterli hale gelene kadar sistemlerin kabiliyetlerini artırmaya yönelik çalışmaların sınırlandırılmasını istedi. Coxon’un çıkışına Anthropic bünyesindeki bazı araştırmacılardan da destek geldi.
Anthropic ise yapay zekâ güvenliğinin çalışmalarının temel unsurlarından biri olduğunu, gelişmiş modellerin davranışlarını anlamaya ve riskleri azaltmaya yönelik araştırmalara yatırım yaptığını belirtiyor. Şirket, Coxon’un uyarılarının gündeme gelmesinin ardından güvenlik ve şeffaflık çalışmalarını savundu.
Coxon’un istifası, dünyanın önde gelen yapay zekâ şirketlerinde teknolojinin gelişme hızı ile güvenlik önlemlerinin yeterliliği arasındaki tartışmayı yeniden gündeme taşıdı.
