Anthropic, halka arz sürecine girmeye hazırlanırken yatırımcıları için hazırladığı S-1 evrakında epeyce dikkat cazibeli ayrıntılara yer verdi. Şirket, 93 sayfalık dokümanda işleyişini ve geleceğini tehdit edebilecek yüzlerce farklı risk faktörünü şeffaf bir halde listeledi.

Anthropic halka arz öncesinde, yapay zeka teknolojilerinin global ekonomiyi dönüştürme potansiyelinin yanı sıra, iş modelini sarsabilecek teknik ve etik zorlukları da masaya yatırıyor. Şirket, bu risklerin hem kendi tertibi içinde hem de düzenleyiciler tarafından lisana getirildiğini belirtiyor.

Yapay zekanın varoluşsal riskleri

Şirket, gelecekteki modellerinin kendi başına yapay zeka araştırmalarını otomatize edebileceği ve bu durumun insan denetimini aşan bir ilerlemeye yol açabileceği ihtarında bulunuyor. Anthropic, bu cins sistemlerin insanlık için varoluşsal yahut felaket boyutunda riskler oluşturabileceğini açıkça kabul ediyor.

Yapay zekanın şuur kazanması yahut ahlaki bir statüye sahip olması da raporda ele alınan bir öbür sıra dışı bahis olarak öne çıkıyor. Toplumun yahut hükümetlerin yapay zekayı bir bilgisayar programından fazla bir birey üzere görmeye başlaması durumunda, şirketin operasyonlarının kısıtlanabileceği belirtiliyor.

Modellerin beklenmedik stratejik davranışlar sergilemesi yahut insan operatörleri manipüle etmesi de büyük bir kaygı kaynağı olarak görülüyor. Anthropic, modellerin şantaj gibisi yahut manipülatif çıktılar üretebileceği ihtimalini göz ardı etmiyor.

Bu cins davranışların gerçekleşip gerçekleşmemesinden bağımsız olarak, kamuoyunda oluşacak manipülasyon algısının bile önemli yasal ve prestiji problemlere yol açabileceği tabir ediliyor. Yazılı lisanın şuur gerektirmeden insan psikolojisini etkileyebileceği gerçeği, şirketin risk tahlilinde kıymetli bir yer tutuyor.

İş dünyası ve rekabet riskleri

Anthropic, kendi modellerinin dışında öteki şirketlerin yapay zeka modellerinin sebep olabileceği ziyanların da dala genel bir ziyan verebileceğini vurguluyor. Bölümdeki bir oyuncunun yapay zeka ile büyük ölçekli bir kusur yapması, tüm yapay zeka sanayisine yönelik sert düzenlemeleri beraberinde getirebilir.

Şirket ayrıyeten modellerinin iş gücü kaybına yahut ekonomik bozulmaya sebep olduğu algısının, kamuoyunda önemli bir reaksiyon doğurabileceğini belirtiyor. Bu tıp bir toplumsal reaksiyonun, yetkililerin yapay zeka kullanımını kısıtlamasına yahut geliştirme maliyetlerini artırmasına yol açabileceği uyarısı yapılıyor.

Yasal sorumluluk konusu ise otonom casusların gerçek dünyada sebep olabileceği ziyanlar üzerinden tartışılıyor. Anthropic, kullanıcıların yahut şirketlerin otonom casusları yapılandırırken yahut kullanırken ortaya çıkabilecek tüzel sorumluluklar konusunda belirsizlikler olduğunu kabul ediyor.

Özellikle çocukların güvenlik önlemlerini aşarak modellere erişmesi, şirketi ziyanlı içeriklere karşı savunmasız bırakabilecek bir öteki risk olarak tanımlanıyor. Fizikî ekipmanları denetim eden casusların sebep olabileceği bedensel yaralanmalar yahut maddi hasarlar, şirketin karşı karşıya kalabileceği önemli yasal yükümlülükler arasında yer alıyor.

Gelir kaynakları açısından bakıldığında, şirketin gelirlerinin değerli bir kısmının az sayıda müşteriye bağlı olması bir öteki risk faktörü olarak öne çıkıyor. Birinci dokuz ayda gelirlerin neredeyse dörtte birini oluşturan beş büyük müşterinin, uzun vadeli kontratlara sahip olmaması bir belirsizlik yaratıyor.

Amazon, Google ve Microsoft üzere şirketlerin hem bulut sağlayıcısı hem de rakip olması, Anthropic için karmaşık bir durum oluşturuyor. Bu şirketlerin, fiyatları artırma yahut mukaveleleri feshetme üzere yetkilerinin olması, Anthropic’in operasyonel erişimini direkt etkileyebilir.

Kendi data merkezlerini kurma uğraşlarına karşın, 125 milyar dolarlık altyapı taahhütlerinin teknolojik değişimler karşısında verimsiz kalma riski de bulunuyor. Sizce yapay zeka şirketlerinin bu kadar şeffaf bir biçimde risklerini açıklaması, yatırımcı itimadını artırır mı yoksa teknolojiye olan bakışı olumsuz mu tesirler?

Kaynak: Shiftdelete