تعرّف على مهندس أنثروبيك الذي يحافظ على موثوقية وكيلها الذكي

إذا تساءلت يومًا كيف يمكن لـ Claude والوكلاء الأذكياء المماثلين الإجابة عن أسئلة معقدة في ثوانٍ، ومن أين يحصلون على المعلومات، فأنت لست وحدك.

غورميت ساران يعمل على إيجاد هذا الجواب كل يوم بصفته مهندسًا في أنثروبيك في سان فرانسيسكو، شركة أبحاث الذكاء الاصطناعي التي تقف خلف Claude. ويطوّر هذا العضو البارز في IEEE بنية تحتية لفهم الآليات الكامنة وراء سلوك روبوت المحادثة، ولضمان أن معماريتها الأساسية تُنتج مخرجات موثوقة.

غورميت ساران

جهة العمل: أنثروبيك في سان فرانسيسكو

المسمى الوظيفي: عضو في الطاقم التقني

درجة العضوية: عضو بارز في IEEE

جامعات التخرج: جامعة كالياني، الهند؛ معهد بيرلا للتكنولوجيا والعلوم، بيلاني، الهند

يقول: «مهمتي هي التأكد من أن البيانات دقيقة ومنظمة وموثوقة، وأن البيانات الخاصة تبقى خاصة». ويضيف: «كما تعلمت في وقت مبكر من مسيرتي المهنية، لا يمكن أن تكون الخصوصية طبقة تُضاف لاحقًا، بل يجب أن تكون جزءًا من المعمارية منذ البداية». ويؤكد أنه إذا لم يكن بإمكانك الوثوق بالمنطق، فلا يمكنك تقديم ادعاءات موثوقة حول السلوك، وهذا له تداعيات حقيقية على السلامة.

يقول إن السلامة أولوية لدى أنثروبيك. ووفقًا لبيان مهمة Claude، تهدف الشركة إلى أن يكون وكيل الذكاء الاصطناعي «مفيدًا حقًا للأشخاص الذين يعمل معهم أو نيابة عنهم، وكذلك للمجتمع، مع تجنب الإجراءات غير الآمنة أو غير الأخلاقية أو الخادعة». ويشير ساران إلى أن جزءًا حاسمًا من هذه المهمة هو ضمان قدرة الباحثين على مراقبة سلوك نماذج الذكاء الاصطناعي وفهمه، وهو تحدٍّ حاد بشكل خاص بالنسبة للنماذج اللغوية الكبيرة.

يقول: «لدينا أدوات جيدة لمراقبة قواعد البيانات وخدمات الويب، لكن بالنسبة للنماذج اللغوية الكبيرة، ما زلنا نحاول اكتشاف ذلك».

حل مشكلات جودة البيانات في ياهو وانتويْت وميتا

بدأ اهتمام ساران بأنظمة الحوسبة في طفولته في كولكاتا، حيث أمضى وقتًا كبيرًا في مختبر الحاسوب بالمدرسة.

يتذكر قائلًا: «أتذكر أول مرة استخدمت فيها أحد أجهزة الحاسوب. ما أثار إعجابي هو أنه يمكنك كتابة تعليمات، وستتبعها الآلة بدقة. لا غموض. شعرت أن ذلك سحر حقيقي».

بعد تخرجه من المدرسة الثانوية في عام 1999، تابع دراساته العليا في الهند، وحصل على درجة البكالوريوس في هندسة الإلكترونيات والاتصالات في عام 2004 من جامعة كالياني، ودرجة الماجستير في هندسة البرمجيات في عام 2010 من معهد بيرلا للتكنولوجيا والعلوم.

أثناء دراسته العليا، بدأ مسيرته المهنية في عام 2007 في ياهو كقائد تقني لفريق البيانات في بنغالورو، الهند. وهناك واجه مشروعًا شكّل مسار حياته المهنية: العمل على تحليلات الويب وحلول تقارير ذكاء الأعمال.

يتذكر: «كنا نصطدم باستمرار بمشكلة محبطة. كانت الفرق المختلفة تحسب المقياس نفسه لموقع الويب، مثل المستخدمين النشطين يوميًا، باستخدام منطق مختلف قليلًا، ما يؤدي إلى إجابات متضاربة. يبدو الأمر مشكلة صغيرة، لكن عندما تتخذ القيادة قرارات بشأن تخصيص الموارد وتطوير المنتجات باستخدام تلك البيانات، يصبح عدم معرفة الرقم الصحيح مشكلة».

بنى الفريق مستودع بيانات مركزيًا بمقاييس محددة، ليكون مصدرًا واحدًا للحقيقة. وأنشأ ساران نموذجًا يحدد معنى «المستخدمين النشطين يوميًا للموقع»، موضحًا الأحداث التي تُحتسب وكيفية التعامل مع الحالات الحدية.

وبهذا النموذج الجديد، أصبح بإمكان فرق البيانات في جميع أنحاء الشركة الاعتماد على طريقة موحدة لتحديد المستخدمين النشطين يوميًا لمشاريعها، والحصول على نتائج قابلة للمقارنة باستخدام المنطق نفسه.

ومن هناك، طوّر ساران وفريقه Yahoo! Digits، وهي أداة داخلية لتحليلات الويب استُخدمت لجميع منتجات الشركة.

غادر ساران ياهو في عام 2010 لينضم إلى انتويْت كمهندس في الطاقم في ماونتن فيو، كاليفورنيا. وساعد في بناء البنية التحتية للتحليلات التي وحّدت البيانات عبر منتجات الشركة، بما في ذلك TurboTax وQuickBooks. وخلال فترة عمله، طوّرت انتويْت ميزة اكتشفت الإقرارات الضريبية الاحتيالية في الوقت الفعلي، ما تطلب من ساران ومهندسين آخرين بناء نظام يحمي بيانات دافعي الضرائب مع الالتزام بسياسات دائرة الإيرادات الداخلية الأمريكية الصارمة.

يقول: «علّمني ذلك أن الخصوصية والحوكمة لا يمكن أن تكونا طبقتين تُضافان إلى البرمجيات بعد وقوع الأمر. يجب أن تكونا جزءًا من المعمارية منذ البداية».

انضم ساران إلى ميتا (فيسبوك سابقًا) في عام 2016 كمهندس برمجيات رئيسي في مينلو بارك، كاليفورنيا. وواجهت الشركة جدلًا حول مقاييس الفيديو الخاصة بها، وأقرّت علنًا بخطأ أدى إلى المبالغة في عدد مشاهدات الفيديوهات المنشورة.

يوضح ساران: «لم يكن هذا خطأ برمجيًا، بل مشكلة معمارية». فبنى نظامًا مشابهًا لما طوّره في انتويْت، حيث تحكم حقيقة واحدة جميع مقاييس مشاهدات الفيديو عبر الموقع.

وقد أصبح ذلك النظام، Metric360، في النهاية جزءًا من معمارية الموقع. وبحلول مغادرته ميتا في عام 2021، كان Metric360 يُستخدم في جميع أنحاء الشركة لحساب مقاييس الفيديو.

بعد مغادرته ميتا، أصبح مهندس برمجيات رئيسيًا في Wealthfront، وهي شركة خدمات مالية في بالو ألتو، كاليفورنيا، حيث ساعد في بناء البنية التحتية للبيانات في الشركة.

بناء أنظمة ذكاء اصطناعي موثوقة في أنثروبيك

انضم ساران إلى أنثروبيك في 2025 كعضو في الطاقم التقني.

ولوصف تداعيات عمله، يستخدم تشبيهًا طبيًا: «تخيل طبيبًا يراقب العلامات الحيوية لمريض ويتخذ قرارات العلاج بناءً على تلك الأرقام. ماذا لو كانت واحدة أو بضع من الأجهزة الطبية المستخدمة معايرة بشكل خاطئ قليلًا؟ حتى لو كانت معظم القراءات جيدة، فهذه مشكلة خطيرة لأن القرارات الصعبة تحدث في الهوامش».

«الأمر نفسه ينطبق على أنظمة الذكاء الاصطناعي. مهمتي أساسًا هي ضمان أن الأجهزة تعطي قراءات دقيقة، وأن البيانات تعني ما تقول إنها تعنيه».

يتضمن دوره مخاطر عالية ومشكلات معقدة تحتاج إلى حل.

ويشير: «وكلاء الذكاء الاصطناعي صعبون بشكل خاص في المراقبة. عندما ينفذ نظام تسلسلات من الإجراءات [توليد ردود محادثة مع مستخدمين مختلفين]، تحتاج إلى طريقة لالتقاط ما فعله، وما المعلومات التي كان يعمل بناءً عليها، وما إذا كانت النتائج مطابقة لما توقعه المستخدم النهائي. وعليك فعل كل ذلك دون كشف المعلومات الخاصة لأي شخص، إذ صُممت الأنظمة للتعرف على البيانات الحساسة والحفاظ على حمايتها أثناء تدفقها. إنها مشكلة مراقبة أكثر تعقيدًا بكثير من أي شيء عملت عليه من قبل».

حل مشكلة موثوقية النظام بينما لا يزال الذكاء الاصطناعي في أيام تبنيه الأولى هو شغف ساران والمشكلة التي تبقيه مستيقظًا في الليل.

يقول: «أعتقد أن جعل أنظمة الذكاء الاصطناعي قابلة للتدقيق والشفافية حقًا هو أحد أهم المشكلات الهندسية في العقد المقبل، ولا يُتحدث عنه بقدر ما يُتحدث عن قدرات النماذج».

دور IEEE في تشكيل تطوير الذكاء الاصطناعي

انضم ساران إلى IEEE في مارس 2025.

يقول: «بعد أكثر من 20 عامًا من بناء البنية التحتية للبيانات في مؤسسات مثل ياهو وانتويْت وميتا وWealthfront، أردت أن أساهم في المجتمع التقني من خلال مراجعة الأقران والنشر والتفاعل مع منظومة أبحاث الهندسة الأوسع».

ويعتقد أن IEEE يمكن أن تلعب دورًا أساسيًا في تشكيل مستقبل الذكاء الاصطناعي من خلال عملها في المعايير.

ويقول: «لدينا معايير لكل شيء، من أكواد البناء إلى اختبار البرمجيات. تحتاج البنية التحتية للذكاء الاصطناعي إلى شيء مشابه، وIEEE لديها المصداقية والانتشار للقيام بذلك».

وثمة قضية أخرى يمكن أن تعالجها IEEE وهي الوصول: «تعمل IEEE في العديد من البلدان حيث لا يملك المهندسون مسارات سهلة إلى المجتمع المهني العالمي. هذا النوع من التواصل مهم، خصوصًا مع انتشار تطوير الذكاء الاصطناعي خارج حفنة من المؤسسات في بضع مدن».

 

المصدر: spectrum.ieee.org