Yapay zekânın iş gücündeki rolü üzerine tartışmalar sürerken, bu teknolojinin insan müdahalesi olmadan kendi kendini geliştirme ve yeni versiyonlar yaratma kapasitesine ulaştığına dair önemli bir uyarı yapıldı. Yapay zekâ alanında faaliyet gösteren Anthropic şirketi, bu sistemlerin gelecekte insan kontrolünden çıkabileceği konusunda dikkat çekici açıklamalar yaptı. Şirketin kurucu ortaklarından Jack Clark ve Anthropic Enstitüsü Başkanı Marina Favaro tarafından kaleme alınan bir blog yazısında, yazılım geliştirme ve araştırmaların giderek daha fazla yapay zekâ sistemlerine devredildiği ve bu durumun gelişim hızını önemli ölçüde artırdığı vurgulandı.
Yazıda, yapay zekâ sistemlerinin kendi halefelerini tasarlayıp geliştirebilme potansiyeli olduğu belirtildi. “Özyinelemeli kendini geliştirme” olarak adlandırılan bu süreç, kaçınılmaz olmamakla birlikte, kontrol dışı bir duruma yol açma riskinin mevcut olduğu ifade edildi. Anthropic, bu tür sistemlerin büyük faydalar sağlayabileceği, fakat insan denetiminin zayıflama olasılığına da dikkat edilmesi gerektiğini açıkladı.
Jack Clark, bir televizyon programında yaptığı açıklamada, “Yapay zeka endüstrisinin gaz pedalı var ama fren pedalı yok” şeklinde bir değerlendirme yaptı. Anthropic, ileri düzey yapay zekâ çalışmalarının yavaşlatılması veya geçici olarak durdurulması seçeneklerinin düşünülmesi gerektiğine işaret etti. Şirketin yapay zekâ asistanı Claude’in alt modeli Opus 4.6’nın %80’inin önceki model 4.5 tarafından üretildiği bilgisi de dikkat çekti. Uzmanlar, insan katkısının sıfıra inmesi durumunda yapay zekânın kendi kodlarını değiştirebileceğini ve yeni kurallar koyabileceğini belirtiyor. Bu durum, bilim kurgu filmlerinin gerçek olma ihtimalini artırıyor. Ayrıca, güvenlik açıklarını tespit eden Mythos modelinin, sonuçlarından endişe duyularak piyasaya sürülmediği de özellikle vurgulandı.
