أودعت شركة أنثروبيك يوم الاثنين نسخة معدّلة من وثيقة التسجيل S-1A تضمّنت بيانات مالية محدّثة، وأضافت إلى قسم عوامل المخاطرة عبارات جديدة تشير إلى أنها قريبة من بلوغ قدرة التحسين الذاتي التكراري (RSI). وتُظهر الوثيقة أن إيرادات الشركة ترتفع بقوة، وأن نفقاتها ترتفع كذلك.

ما المقصود بالتحسين الذاتي التكراري

التحسين الذاتي التكراري هو المرحلة التي يصبح فيها الذكاء الاصطناعي بارعًا في تدريب نفسه إلى حدّ يُسرّع قدراته تسارعًا حادًا. وكان المصطلح قد انتشر في وقت سابق من العام، واعتبره كثيرون مجرد كلمة رائجة أو هدفًا يصعب تحقيقه أو تعريفه أو إثباته.

يرى متشائمو الذكاء الاصطناعي في هذا التحسين نقطة اللاعودة، إذ قد يبني الذكاء الاصطناعي نفسه حتى يتجاوز السيطرة البشرية. أما المتحمسون فيرونه وعدًا بإنتاجية هائلة واكتشافات علمية.

تحذير من تقدم يسبق إجراءات السلامة

تقول الشركة في الوثيقة إنها تستخدم الذكاء الاصطناعي في أبحاثها وتطويرها، وتحذّر من أن استخدامه لبناء نماذج أقدر قد يشكّل خطرًا كبيرًا على السلامة، خصوصًا إذا سرّع وتيرة التقدم بشكل حاد. ويغطي هذا المجال سياسة التوسّع المسؤول لديها (Responsible Scaling Policy)، التي تحدد خططها لرصد المخاطر والحدّ منها.

وأضافت الشركة يوم الاثنين إلى قسم المخاطر أن استخدامها المتزايد للذكاء الاصطناعي في أبحاثها قد يجعل قدرات نماذجها تتقدم أسرع من قدرتها على تطوير إجراءات السلامة والمواءمة والأمان والتحقق منها وتطبيقها.

وتقرّ بأنها لم تتعرّف في الماضي على تسارع كبير في وتيرة تطويرها إلا بعد وقوعه، وبأنها قد لا تتعرّف عليه مستقبلًا إلا بعد حدوثه.

عتبة لم تُتجاوز بعد وتعهد ببقاء البشر

تفيد التقديرات الداخلية للشركة وتوقعاتها بشأن النماذج المقبلة بأنها قد تستوفي قريبًا تعريف سياسة التوسّع المسؤول لعبارة «التقدم المتسارع بشكل كبير الذي يُعزى إلى الذكاء الاصطناعي». لكنها لم تصنّف أيًّا من نماذجها الحالية على أنه تجاوز هذه العتبة، وتواصل تقييم البيانات ذات الصلة.

وتقول إنها لا تتوقع أن تتمكن من استخدام «كلود» بأمان لتصميم وبناء أجيال متعاقبة من النماذج الرائدة بشكل مستقل تمامًا دون إشراف بشري ذي معنى أو فهم بشري. وتدرس إدخال تحديثات على سياسة التوسّع المسؤول لإبقاء البشر متحكّمين في تطوير النماذج الرائدة لديها، كما تتعهد بإبقائهم في عملية البحث والتطوير في المستقبل المنظور.

وقد نمت قدرات «كلود»، خصوصًا في البرمجة والرياضيات والأمن السيبراني، بقفزات كبيرة خلال العام. ويرى متشككون أن الوثيقة تجمع بين الإفصاح والتسويق، وأن الحديث عن القرب من نموذج يبني نفسه قد يندرج في باب التسويق.