منذ أقل من عام ، تأسست الأنثروبور من قبل Openai VP السابق من Research Dario Amodei ، ويعتزم إجراء البحوث في المصلحة العامة على جعل الذكاء الاصطناعى أكثر موثوقية وتفسير. كان التمويل البالغ 124 مليون دولار مفاجئًا في ذلك الوقت ، ولكن لم يكن من الممكن أن يعيدنا الشركة للشركة التي تجمع 580 مليون دولار بعد أقل من عام. وقالت Amodei في هذا الإعلان ، إن الأنظمة ، أثناء فحصها عن كثب الطرق التي لا يمكن التنبؤ بها والتي يمكن أن تظهر بها القدرات وقضايا السلامة على نطاق واسع. بنيت الشركة ، نحن نركز على ضمان أن يكون للأنثروبور الثقافة والحوكمة لمواصلة استكشاف وتطوير أنظمة الذكاء الاصطناعى الآمنة مع توسيع نطاقها.
هناك هذه الكلمة مرة أخرى. لأن هذا هو فئة المشكلات التي تم تشكيلها لدراسة: كيفية فهم نماذج الذكاء الاصطناعى بشكل أفضل بشكل متزايد في كل صناعة لأنها تتجاوز قدرتنا على شرح منطقها ونتائجها.
نشرت الشركة بالفعل العديد من الأوراق النظر ، على سبيل المثال ، عكس هندسة نماذج اللغة لفهم السبب وكيف ينتجون النتائج التي يقومون بها. شيء مثل GPT-3 ، ربما يكون نموذج اللغة الأكثر شهرة هناك ، مثير للإعجاب بشكل لا يمكن إنكاره ، ولكن هناك شيء يقلق بشأن حقيقة أن عملياتها الداخلية هي بشكل أساسي لغزا حتى لمبدعيها.
مثل الجديد يشرح ذلك إعلان التمويل:
الغرض من هذا البحث هو تطوير المكونات الفنية اللازمة لبناء نماذج واسعة النطاق لها ضمانات ضمنية أفضل وتتطلب تدخلات أقل بعد التدريب ، وكذلك لتطوير الأدوات اللازمة لمزيد من النظر داخل هذه النماذج لتكون واثقًا من أن الضمانات تعمل بالفعل.
إذا كنت لا تفهم كيف يعمل نظام الذكاء الاصطناعي ، يمكنك فقط الرد عندما يفعل شيئًا خاطئًا - على سبيل المثال ، يظهر تحيزًا في التعرف على الوجوه أو تميل إلى رسم أو وصف الرجال عندما سئلوا عن الأطباء والمديرين التنفيذيين. هذا السلوك يخبز في النموذج ، والحل هو تصفية مخرجاته بدلاً من منعه من وجود تلك المفاهيم غير الصحيحة في المقام الأول.
إنه نوع من التغيير الأساسي لكيفية بناء AI وفهمه ، وعلى هذا النحو يتطلب أدمغة كبيرة وأجهزة كمبيوتر كبيرة - لا يوجد أي منها رخيص بشكل خاص. لا شك أن 124 مليون دولار كانت بداية جيدة ، ولكن يبدو أن النتائج المبكرة كانت واعدة بما يكفي لجعل سام بانكمان المقلي في هذه الجولة الجديدة الهائلة ، انضمت إليها كارولين إليسون وجيم ماككلافي ونيشاد سينغ وجان تالين ومركز أبحاث المخاطر الناشئة الناشئة .
من المثير للاهتمام أن نرى أيًا من المستثمرين المعتادين في التكنولوجيا العميقة في تلك المجموعة-ولكن بالطبع لا يهدف الأنثروب إلى تحقيق ربح ، وهو نوع من الكسوة في VCs.
يمكنك مواكبة أحدث أبحاث الأنثروبور هنا.
اخلاء مسؤولية! هذا المقال لا يعبر بالضرورة عن رأي جامعة الرازي
