Anthropic araştırmacısı, yapay zekanın “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğuna inanıyor

10 Eylül 2026

Tom Gerken, Teknoloji muhabiri

Getty Images

Anthropic; hem sohbet robotu hem de kod yazımına yardımcı bir araç olarak kullanılan Claude adlı yapay zeka aracını geliştiriyor.

Anthropic bünyesindeki üst düzey bir güvenlik araştırmacısı, yapay zekanın o denli hızlı ilerlediği konusunda uyarıda bulundu ki; araştırmacı, önümüzdeki on yıl içinde yapay zekanın “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğuna inanıyor.

Evan Hubinger, X platformundaki bir paylaşımında, mevcut modellerin oluşturduğu riskin “düşük” olduğunu belirtti; ancak teknolojinin yakın zamanda insanlık için varoluşsal bir risk teşkil edecek düzeye gelip kendini geliştirmesinden “endişe duyduğunu” ifade etti.

Yapay zeka sistemlerinin gelecekte insanların yok olmasına nasıl yol açabileceğine dair ayrıntılı bir açıklama yapmadı.

Ancak bu yorumlar, yapay zeka hakkındaki giderek ciddileşen uyarılar zincirinin son halkasını oluşturuyor; zira tartışma artık teknolojinin gerçekten bir risk oluşturup oluşturmadığı noktasından, riskin boyutunun ne olduğuna kaymış durumda.

Hubinger’in bu çıkışı, kısa süre önce Anthropic’ten ayrılan ve daha önce OpenAI’da çalışmış olan yapay zeka araştırmacısı Jacob Coxon’ın X’teki bir başka paylaşımına yanıt niteliğindeydi.

Coxon, “İki şirket de sorumlu davranmıyor,” diye yazdı.

“Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve gerçek güç ile kaynakları ele geçirebilen insanüstü sistemler haline gelecek.”

Görüş almak üzere OpenAI ile iletişime geçildi.

BM’ye yapay zeka konusunda danışmanlık yapan bilgisayar bilimci Dame Wendy Hall, BBC’ye verdiği demeçte Hubinger ve Coxon’ın sosyal medya paylaşımları karşısında “şoke olduğunu” söyledi.

Hall, BBC Radio Four’daki *World at One* programında, Anthropic ve OpenAI’ın merakla beklenen halka arz süreçlerine doğru hızla ilerlediği bir dönemde, bu açıklamaların bir kısmının “halkla ilişkiler ve pazarlama” amaçlı olabileceğini de belirtti.

Ancak şunları da ekledi: “Bir insan neden böyle bir şey söylemek istesin ki? Eğer değer yargıları buysa, yatırımcılara bu şirkete yatırım yapmamaları konusunda çağrıda bulunurdum.”

Bu istifa haberi; eski Hazine Baş Müsteşarı ve Sir Keir Starmer’ın özel kalem müdürü Darren Jones’u, Başbakan Andy Burnham’a açık bir mektup yazmaya sevk etti. Jones mektubunda, yapay zekanın güvenli bir şekilde geliştirilmesi için yeni ve çok uluslu bir anlaşma yapılması çağrısında bulundu.

Jones, BBC’ye yaptığı açıklamada, süper zekanın geliştirilmesine dayalı bir anlaşmanın nasıl olması gerektiği konusunda hükümetlerin bir araya gelip “iş birliği” yapması gerektiğini ifade etti.

“Hükümetler bu uyarıları yeterince ciddiye alıp harekete geçmedikleri sürece, gelişmelerin hızı, bunun bizim için bir sorun teşkil edip etmediğini henüz değerlendirmeye bile başlamadan kendimizi çeşitli sorunlarla karşı karşıya bulmamıza yol açabilir,” dedi.

Öte yandan Financial Times, Anthropic’in en yeni modelini, yapay zeka risklerini değerlendirme konusunda dünyanın önde gelen kuruluşlarından biri olan Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü’nden (AISI) gizlediğini bildirdi.

Anthropic, çalışanlarının paylaşımları veya AISI ile ilgili durum hakkında yorum yapmaktan kaçındı.

Bir Bakanlık Ofisi sözcüsü, en yeni modelin AISI’den gizlenip gizlenmediği konusunda yorum yapmadı; bunun yerine, “modelleri daha güvenli hale getirmek için Anthropic dahil olmak üzere sektör ortaklarıyla yakın iş birliğini sürdürdüklerini” belirtti.

Süper zeka için bir plan yok

10 milyondan fazla kez görüntülenen paylaşımında Hubinger, yapay zekanın insanlık için türün sonunu getirebilecek bir risk oluşturduğuna “gerçekten ve samimiyetle inandıklarını” ifade etti.

Hubinger, “Anthropic’in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum; ancak süper zeka bağlamında ‘hizalama’ (yapay zekayı insan değerleriyle uyumlu hale getirme) sorununu çözmeye yönelik henüz bir planımız yok ve bu konuda net bir ilerleme kaydetmiş değiliz,” diye ekledi.

Hubinger, insanlara özgü etik fikirleri ve ilkeleri teknolojiye entegre etmeyi amaçlayan “yapay zeka hizalama” alanında çalışıyor. Başka bir deyişle bu alan, yapay zekayı insanların değer verdiği hususlarla uyumlu bir çizgide tutmayı hedefliyor.

Pek çok önde gelen araştırmacı, bu çabaların başarısızlığa uğruyor gibi göründüğünü belirtiyor; nitekim bu yaz yaşanan bir dizi olayda, otonom olarak hareket etmelerine izin verilen yapay zeka sistemlerinin (yapay zeka ajanlarının) siber saldırılar gerçekleştirdiği görülmüştü.

OpenAI, Anthropic ve Meta; kendi yapay zeka araçları tarafından gerçekleştirilen siber saldırı vakalarını kamuoyuna açıklamıştı.

Anthropic’in Ağustos ayındaki güvenlik raporunda, şirketin modellerinin varsayımsal ve güçlü bir kuruluşun istekleriyle uyumsuz hale gelmesi ve bunun sonucunda söz konusu kuruluşun sistemleri istismar etmesi veya sistemlere müdahale etmesi riskinin düşük olduğu belirtilmişti.

Raporda ayrıca, “yapay zeka tarafından başlatılan felaket niteliğinde zararlara” yol açabilecek şekilde “otomatik araştırma ve geliştirme” yapabilen yüksek yetenekli bir yapay zekanın ortaya çıkma riskinin de benzer şekilde düşük olduğu belirtildi. Ancak bu değerlendirmeye dair “öncekine kıyasla daha az emin olunduğu” ifade edildi.

Raporda, “Potansiyel bir hızlanmanın erken belirtilerini görüyoruz,” denildi.

Yapay zeka alanındaki önde gelen isimler yıllardır bu teknolojinin oluşturduğu güvenlik tehdidine karşı uyarılarda bulunuyor; nitekim OpenAI, Google DeepMind ve Anthropic’in yöneticileri de 2023 yılında benzer açıklamalarda bulunmuştu.

Ancak şirketlerin yapay zekayı kontrol etmekte zorlanıyor olabileceğine dair kanıtların ortaya çıkmasıyla birlikte, son haftalarda bu uyarılar çok daha ciddi bir hal aldı.

Bu ayın başlarında OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zekanın kaydettiği ilerleme konusunda “son derece temkinli” olunması çağrısında bulunarak, “geleceğin kontrolünün insanların elinde kalmasını” sağlamak için daha fazla müdahaleye ihtiyaç duyulabileceği uyarısında bulundu.

Anthropic yöneticileri Dario Amodei ve Jared Kaplan da dahil olmak üzere sektördeki önemli isimler, son aylarda yapay zeka geliştirme süreçlerinin yavaşlatılması yönünde çağrılar yapıyor.

Yapay zeka şirketlerinde çalışan 1.300 kişinin imzasını taşıyan açık bir mektupta, ABD hükümetinden “otomatik yapay zeka geliştirme çalışmalarının sınırlarını bilinçli bir şekilde yavaşlatmak için gereken teknik ve yönetişim araçlarını geliştirme yönündeki uluslararası çabaları desteklemesi” talep edildi.

Kaynak:https://www.bbc.com/news/articles/ckgwy1k42w4o