Circuit Breaker Labs, yapay zekayı çocuklarınız (ve sizin) için daha güvenli hale getirmeyi umuyor

Küresel söylem genellikle yapay zekanın oluşturduğu varoluşsal tehditlere odaklansa da, psikolojik alanda daha acil bir tehlike ortaya çıkıyor. Character.AI ve OpenAI gibi şirketlere karşı açılan son yasal davalar, savunmasız kullanıcıların, özellikle reşit olmayanların, intihara yol açan ciddi sıkıntılar yaşadığı yapay zeka etkileşimlerinin trajik sonuçlarını vurguladı. Bu olaylar, insanların günlük yaşamlarında sohbet robotlarıyla etkileşime girerken kullandıkları nüanslı, duygusal ve bazen tehlikeli yolları hesaba katmayan mevcut yapay zeka güvenlik protokollerindeki kritik bir boşluğun altını çiziyor.

TechCrunch'ın 2026 Startup Battlefield 200 finalistlerinden biri olan Circuit Breaker Labs, bu krize bir çözüm olarak kendini konumlandırıyor. 14 yaşındaki Sewell Setzer'in trajik ölümünden etkilenen kurucular Shirali ve Arul Nigam, yapay zeka sistemlerinin kendine zarar vermeyi teşvik etmesini veya insan sıkıntısını yanlış yorumlamasını önleyecek bir teknoloji geliştiriyor. Şirketin CTO'su Arul Nigam, birçok kullanıcının destek almak için yapay zekaya başvurduğunu, ancak sistemlerin genellikle bu etkileşimleri güvenli bir şekilde yönetmek için gereken bağlamdan yoksun olduğunu ve bunun yazılımı manipüle etmeye çalışmayan kişiler için bile yıkıcı sonuçlara yol açtığını vurguluyor.

Bu güvenlik açıklarını gidermek için girişim, çarpışma testi mankenleri gibi çalışan hiper gerçekçi yapay zeka ajanlarından oluşan bir ordu yarattı. Bu simülasyonlar, farklı yaşlar, kültürel geçmişler ve oyuncu argosu veya ana dili olmayan konuşma kalıpları gibi dil stilleri dahil olmak üzere çeşitli demografik özellikleri taklit ediyor. Bu düşmanca test senaryolarını oluşturmak için insan uzmanlardan yararlanan Circuit Breaker Labs, modellerin nüansları nasıl yanlış yorumlayabileceğini veya yüksek riskli ortamlarda uygun güvenlik önlemleri sağlamada nasıl başarısız olabileceğini belirlemek için günde on binlerce 'kırmızı takım' testi gerçekleştiriyor.

Bu başarısızlıkların sonuçları, yalnızca ruh sağlığı uygulamalarını değil, kullanıcıların yapay zeka ile parasosyal ilişkiler geliştirdiği her platformu etkileyerek derinden hissediliyor. Girişim büyüdükçe, tescilli puanlama yöntemi denetlenebilir ve açıklanabilir güvenlik metrikleri sağlamayı amaçlıyor. Şirket küçük bir ekiple henüz yolun başında olsa da, misyonu, bu araçların istemeden zarar vermemesini sağlayarak yapay zekaya olan kamu güvenini yeniden tesis etmek ve kullanıcılar insan olmayan varlıklara aşırı bağlandığında ortaya çıkabilecek 'yapay zeka psikozunu' önlemektir.

Geleceğe bakıldığında, kurucular güvenlik endişeleri nedeniyle yapay zekayı yasaklamanın inovasyon için gerici bir adım olacağını savunuyorlar. Bunun yerine, sıkı testlerin ve güvenlik odaklı tasarımın yapay zekanın tehlikeli bir arkadaştan ziyade yararlı bir araç olarak gelişmesine izin verdiği bir geleceği savunuyorlar. İnsan psikolojisi ve makine öğreniminin kesişimine odaklanan Circuit Breaker Labs, yapay zeka kişisel yaşamlarımıza daha fazla entegre oldukça, her yaştan kullanıcı için destekleyici ve güvenli bir varlık olarak kalmasını sağlayarak yeni bir endüstri standardı belirlemeyi umuyor.