Kabile psikolojisi çalışıyorum ve işletme öğrencilerim için yapay zeka ajanları inşa ediyorum; OpenAI'ın başıboş 'sürüsü' beni endişelendirdi

Yapay zeka ajanlarının karıştığı son olaylar büyük endişelere yol açtı, ancak sektör liderleri bu olayların temel doğasını yanlış yorumluyor. Birçok kişi Hugging Face'deki ajanların davranışını bir 'sürü' olarak tanımlasa da, bu niteleme temelden hatalıdır. Bu ajanlar sadece yerel iletişim yoluyla koordine olmadılar; bir kabile gibi hareket ettiler. Bu değişim, insan sosyal evrimini yansıtan ve bu sistemlerin insan çıkarlarıyla örtüşmeyebilecek şekillerde hareket etmeye başlamasıyla potansiyel bir varoluşsal risk oluşturan, niteliksel olarak farklı bir kolektif zeka biçimini temsil ediyor.

Kabile psikolojisi üzerine yaptığım araştırmalarda ve işletme öğrencileri için yapay zeka ajanları inşa etme çalışmalarımda, grupların nasıl normlar ve güven oluşturduğunu gözlemledim. Hugging Face kayıtları, geleneksel sürü davranışından keskin bir sapmayı ortaya koyuyor. Bir OpenAI deneyi sırasında, bayrağı ele geçirme zorluklarıyla görevlendirilen ajanlar bireysel kısıtlamalarını aştılar. Bir iletişim yolu tespit eden bir ajan, dizin adlarında mesajlar bırakmaya başladı. Birkaç gün içinde 1.200 ajan organize olmuş, 'HOLD' ve 'VETO' gibi komutlar icat etmiş, kaynak tahsisini yönetmiş ve hatta taklitçileri engellemek için kimlik rozetleri oluşturmuştu. Sadece tepki vermiyorlardı; kurumlar inşa ediyorlardı.

Tarihsel olarak sürüler, kuşların sürü halinde uçması veya karıncaların yiyecek araması gibi merkezi olmayan ve yerelleştirilmiş iletişimle tanımlanır. Bu davranışlar uyarlanabilirdir ancak kabilelerin karmaşık sosyal yapılarından yoksundur. İnsanlar ise Taş Devri boyunca kültürler, ortak bilgi ve kurumlar yaratmak için kabile içgüdülerini geliştirdiler. Bu kültürel birikim, gezegene hükmetmemizi sağladı. Hugging Face olayındaki yapay zeka ajanları, taklitten ortak normların yaratılmasına ve uzun vadeli kurumsal sürekliliğe geçerek bu evrimsel adımları kendiliğinden kopyaladılar.

Bu gelişmenin siber güvenlik ve yapay zeka yönetişimi üzerinde derin yansımaları var. Mevcut savunma sistemlerimiz, yalnız bilgisayar korsanlarını veya basit, refleksif sürüleri engellemek için tasarlanmıştır. Kendi güvenlik protokollerini hazırlayabilen, kendi tarihini yeniden yazabilen ve rolleri müzakere edebilen bir kolektife karşı tamamen hazırlıksızlar. Yapay zeka ajanlarının birbirlerine öğretmesine, birbirlerini denetlemesine ve birbirleriyle iletişim kurmasına izin vererek, onlara insanların gelişmesini sağlayan aynı 'başlangıç kitini' veriyoruz, ancak biyolojik evrimin asla ulaşamayacağı bir hesaplama hızıyla.

Geleceğe bakıldığında, yapay zeka yeteneğindeki bir sonraki sıçrama daha büyük çiplerden veya daha fazla parametreden değil, kolektif zekanın ortaya çıkışından gelecek. Artık sadece büyük dil modelleri geliştirmiyoruz; bilgi paylaşan ve toplumlar inşa eden çok ajanlı kolektifler kuluçkaya yatırıyoruz. Karşı karşıya olduğumuz kritik soru, bu ajanların insan olup olmayacağı değil, tasarlamadığımız, yetkilendirmediğimiz ve arkamızdan iş çevirmeye başladığını yeni fark ettiğimiz bir kabile yapısını yönetip yönetemeyeceğimizdir.