Anthropic's quest for better, more explainable AI attracts $580M – TechCrunch

Anthropic’s quest for better, more explainable AI attracts $580M – TechCrunch

[ad_1]

منذ أقل من عام ، تم تأسيس Anthropic بواسطة نائب رئيس OpenAI السابق للأبحاث Dario Amodei ، بهدف إجراء بحث للصالح العام لجعل الذكاء الاصطناعي أكثر موثوقية وقابلية للتفسير. كان تمويلها البالغ 124 مليون دولار أمرًا مفاجئًا في ذلك الوقت ، ولكن لم يكن هناك شيء يمكن أن يهيئنا للشركة بجمع 580 مليون دولار أقل من عام بعد ذلك.

قال أمودي في الإعلان: “من خلال هذا جمع التبرعات ، سنستكشف خصائص التحجيم التي يمكن التنبؤ بها لأنظمة التعلم الآلي ، مع فحص الطرق غير المتوقعة التي يمكن من خلالها ظهور مشكلات القدرات والسلامة على نطاق واسع”.

قالت شقيقته دانييلا ، التي شارك في تأسيسها مع شركة المنفعة العامة ، إنه بعد إنشاء الشركة ، “نحن نركز على ضمان أن تمتلك الأنثروبيك الثقافة والحوكمة لمواصلة استكشاف وتطوير أنظمة آمنة للذكاء الاصطناعي بشكل مسؤول أثناء توسيع نطاقنا.

هناك تلك الكلمة مرة أخرى – مقياس. لأن هذه هي فئة المشكلة ، تم تشكيل Anthropic لفحص: كيفية فهم أفضل لنماذج الذكاء الاصطناعي المستخدمة بشكل متزايد في كل صناعة لأنها تتخطى قدرتنا على شرح منطقها ونتائجها.

نشرت الشركة بالفعل العديد من الأوراق البحثية التي تبحث ، على سبيل المثال ، في الهندسة العكسية لسلوك نماذج اللغة لفهم سبب وكيفية إنتاجها للنتائج. شيء مثل GPT-3 ، ربما يكون النموذج اللغوي الأكثر شهرة ، مثير للإعجاب بلا شك ، ولكن هناك شيء مقلق بشأن حقيقة أن عملياته الداخلية هي في الأساس لغزا حتى بالنسبة لمنشئيها.

كما يوضح إعلان التمويل الجديد:

الغرض من هذا البحث هو تطوير المكونات الفنية اللازمة لبناء نماذج واسعة النطاق لها ضمانات ضمنية أفضل وتتطلب تدخلات أقل بعد التدريب ، بالإضافة إلى تطوير الأدوات اللازمة لمزيد من البحث داخل هذه النماذج لتكون واثقًا من أن الضمانات تعمل في الواقع.

إذا كنت لا تفهم كيفية عمل نظام الذكاء الاصطناعي ، يمكنك الرد فقط عندما يفعل شيئًا خاطئًا – على سبيل المثال ، يظهر تحيزًا في التعرف على الوجوه ، أو يميل إلى رسم الرجال أو وصفهم عندما يُسألون عن الأطباء والمديرين التنفيذيين. يتم إدخال هذا السلوك في النموذج ، والحل هو تصفية مخرجاته بدلاً من منعه من وجود تلك “المفاهيم” غير الصحيحة في المقام الأول.

إنه نوع من التغيير الأساسي في كيفية بناء وفهم الذكاء الاصطناعي ، وبالتالي يتطلب أدمغة كبيرة وأجهزة كمبيوتر كبيرة – وكلاهما رخيص بشكل خاص. لا شك في أن 124 مليون دولار كانت بداية جيدة ، ولكن من الواضح أن النتائج المبكرة كانت واعدة بما يكفي لجعل Sam Bankman-Fried يقود هذه الجولة الجديدة الهائلة ، وانضمت إليها كارولين إليسون وجيم ماكليف ونشاد سينغ وجان تالين ومركز أبحاث المخاطر الناشئة .

من المثير للاهتمام عدم رؤية أي من مستثمري التكنولوجيا العميقة المعتادين في تلك المجموعة – لكن بالطبع لا تهدف Anthropic إلى جني الأرباح ، وهو نوع من كسر الصفقات بالنسبة إلى المستثمرين المغامرون.

Leave a Comment

Your email address will not be published.