مَن يدفع ثمن الهلوسة؟

إبراهيم فواخرجي — ArchUp

أعتقد أن التاريخ، بعد عشرين أو ثلاثين عاماً من الآن، لن يُقسِّم العالم إلى ما قبل الإنترنت وما بعده.

بل سيرسم خطاً فاصلاً مختلفاً تماماً.

ما قبل الذكاء الاصطناعي، وما بعده.

عندما أفتح أرشيف بريدي الإلكتروني من عام 2020 اليوم، أشعر وكأنني أقرأ مراسلات من حضارة أخرى. ليس لأن اللغة قد تغيرت، بل لأن الأشخاص الذين يقفون خلفها هم من تغيروا.

كان البريد الإلكتروني قبل عام 2022 بشرياً بطريقة يصعب وصفها بدقة حتى تقارنها بما جاء بعدها. كانت هناك أخطاء إملائية. جمل غير مكتملة. أفكار لم تتبلور بالكامل قبل إرسالها. ولكن خلف كل رسالة، حتى تلك المكتوبة بشكل سيء، كنت تشعر بوجود شخص يبذل جهداً في الوقت الفعلي. كان النقص دليلاً على الحضور.

اليوم، أصبحت الرسالة أطول. أكثر تنظيماً. أكثر دبلوماسية. وأكثر صقلاً، وأحياناً أكثر مما ينبغي. فالذكاء الاصطناعي لا يكتفي بتصحيح النص فحسب، بل يضيف طبقات: مقدمات، وانتقالات، وخاتمات، وتأطيراً بلاغياً ربما لم يقصده المرسل الأصلي، بل وربما لا يتعرف عليه كصوته الخاص. يرسل الناس الآن وبشكل روتيني رسائل لا تشبههم. لقد أضافت الآلة ما يمكن تسميته “هالة” حول كل فكرة، طبقة من الفصاحة تضخم الإشارة وتطمسها أحياناً.

هذه ليست شكوى من جودة الكتابة. إنها ملاحظة حول ما يحدث للتواصل عندما تبدأ الأداة في الحلول محل المتواصل نفسه.

إذا أردت أن أصف ما حدث للمعرفة في عصر الذكاء الاصطناعي باستخدام صورة واحدة، سأستخدم “كرة الثلج”.

قبل النماذج اللغوية الكبيرة، كانت المعرفة تتراكم ببطء. مقال هنا. كتاب هناك. ورقة بحثية. مشروع. محادثة. لقد بنى الفهم البشري نفسه من خلال الاحتكاك، ومن خلال الجهد المبذول لتجميع قطع لم تكن تتطابق دائماً مع بعضها البعض.

ثم جاءت النماذج. قرأت كل شيء. ضغطت كل شيء. تعلمت من إجمالي الإنتاج النصي البشري عبر عقود، وشفّرت ذلك التعلم في أوزان ومعايير (Parameters) يمكن الاستعلام عنها في ثوانٍ.

ثم بدأنا في استخدام تلك النماذج يومياً. وولّد كل تفاعل بيانات جديدة. كل تصحيح، كل أمر (Prompt) مُنقّح، كل حُكم حول أي مخرج أفضل من الآخر، عاد ليغذي النظام بطرق تختلف باختلاف الشركة والسياسة، ولكنها تساهم بشكل جماعي في التطوير المستمر للنماذج. كبرت كرة الثلج. ثم استخدمناها مرة أخرى. ثم كبرت من جديد.

هذه هي الحلقة المغلقة للعصر الحالي: يتعلم الذكاء الاصطناعي من البشرية، ثم تتعلم البشرية العمل مع الذكاء الاصطناعي، ثم يتم تدريب الذكاء الاصطناعي بشكل أكبر على النتائج. وتُنتج كل دورة من هذه الدورة نموذجاً أكثر قدرة في بعض النواحي من سابقه.

لكن “القدرة” ليست مرادفة لـ “الدقة”. ومن هنا تبدأ المشكلة.

مع نمو كرة الثلج، ينمو معها شيء آخر.

الهلوسة (Hallucination).

يحمل هذا المصطلح معنىً تقنياً دقيقاً في أبحاث الذكاء الاصطناعي: يُولد النموذج مخرجات تبدو متماسكة وواثقة ومناسبة للسياق ولكنها غير صحيحة واقعياً أو مُختلقة ببساطة. لا يعرف النموذج أنه مخطئ. ليس لديه آلية للمعرفة. إنه ينتج ما هو أكثر ترجيحاً من الناحية الإحصائية بالنظر إلى المدخلات، وعندما تقوده الأنماط الإحصائية في بيانات التدريب الخاصة به نحو خطأ واثق، فإنه يلتزم بهذا الخطأ بنفس الطلاقة التي سيجلبها لإجابة صحيحة.

في توليد النصوص، يمكن للقارئ الملم بالموضوع أن يكتشف الهلوسات. الاستشهادات المُختلقة، والتواريخ الخاطئة، والاقتباسات المنسوبة بغير محلها؛ كل هذه أمور يمكن اكتشافها من خلال التحقق.

أما في الإظهار المعماري، فإن العواقب تختلف نوعياً.

قبل بضعة أشهر، كنت أعمل على مشروع بنموذج ثلاثي الأبعاد مكتمل. كان التكتيل (Massing) صحيحاً. النسب محسومة. وهندسة الشارع دقيقة. كان الأمر الذي أدخلته (Prompt) محدداً قدر استطاعتي. كل ما احتجته هو تحسين الصورة، أي تقديم إخراج واقعي (Rendering) لما يعرضه النموذج بالفعل.

قام الذكاء الاصطناعي بتغيير عرض الشارع.

ثم قام بتغيير محاذاة الرصيف.

ثم أضاف عناصر لم تكن موجودة في النموذج.

ثم أزال جزءاً من واجهة المبنى.

ثم أعاد بناء تسلسل المدخل وفقاً لما يتوقع على ما يبدو أن يبدو عليه مدخل المبنى، بغض النظر عما قمت بنمذجته.

أرسلت الأمر مرة أخرى. استُهلكت الرموز (Tokens). ارتكب النموذج أخطاء مختلفة. أرسلت مرة أخرى. المزيد من الرموز. نفس الفئة من الخطأ، معبر عنها بشكل مختلف.

في أي لحظة لم يشر النظام إلى عدم يقينه. وفي أي لحظة لم يشر إلى أن المخرجات انحرفت عن المدخلات. لقد أنتج ببساطة ما أنتجه، وخصم الرسوم التي خصمها، وانتظر التعليمات التالية.

السؤال الذي تثيره هذه التجربة ليس تقنياً. فالقيود الفنية لنماذج توليد الصور الحالية معروفة وموثقة. بل إن السؤال اقتصادي وأخلاقي.

لم تعد معظم أدوات الذكاء الاصطناعي الاحترافية مجانية. هناك اشتراكات، وأرصدة، وميزانيات للرموز. كل استنتاج، كل توليد صورة، كل محاولة تحمل تكلفة تُخصم من الحساب الذي يحتفظ به المستخدم.

يعتبر نموذج التسعير هذا شرعياً عندما تعمل الأداة كما هو موصوف. ولكن عندما ينشأ الخطأ في النموذج نفسه، وعندما تكون المدخلات واضحة والمخرجات خاطئة، فإن الترتيب الحالي يضع تكلفة الخطأ بالكامل على عاتق المستخدم. المحاولة الفاشلة تكلف نفس تكلفة المحاولة الناجحة. والرمز الذي تستهلكه “هلوسة” لا يمكن تمييزه في نظام الفوترة عن الرمز الذي أنتج مخرجات دقيقة.

تأمل كيف تتعامل علاقات الخدمة المهنية الأخرى مع هذا الأمر. المقاول الذي يسلم عملاً لا يفي بالمواصفات يتحمل مسؤولية المعالجة. المورد الذي يقدم مواد معيبة يتحمل تكلفة الاستبدال. المستشار الذي يحتوي تحليله على أخطاء يكون مسؤولاً عن تصحيحها. هذه ليست مبادئ استثنائية. إنها البنية الأساسية لأي علاقة مهنية يتم فيها تبادل الدفع مقابل مستوى محدد من الأداء.

تعمل علاقة خدمة الذكاء الاصطناعي حالياً خارج هذا الهيكل. يدفع المستخدم مقابل الوصول إلى النموذج، وليس مقابل نتيجة مضمونة منه. شروط الخدمة توضح ذلك صراحة: يتم توفير المخرجات “كما هي” (As-is)، ولا يتحمل المزود أي مسؤولية عن الأخطاء فيها. هذا أمر يمكن الدفاع عنه قانونياً وغير مفاجئ عملياً لتكنولوجيا لا تزال في طور التطور.

ولكن مع انتقال هذه الأدوات من كونها تجريبية إلى كونها بنية تحتية، ومع دمجها في سير العمل المهني الذي يحمل عواقب مالية وقانونية حقيقية، سيواجه الترتيب الحالي ضغوطاً متزايدة.

هناك بُعد آخر لهذا الأمر لم تأخذه الصناعة في الحسبان بالكامل بعد.

لقد تم تدريب النماذج اللغوية الكبيرة وأنظمة توليد الصور التي تشغل هذه الأدوات على محتوى من إنتاج بشري على نطاق لم يسبق له مثيل. نص الإنترنت، بما في ذلك المنشورات المعمارية، والبحوث الأكاديمية، والمنتديات المهنية، ووثائق المشاريع، ومخرجات الممارسين مثل أولئك الذين يقرؤون هذا المقال، شكّل الجسد المعرفي الذي تعلمت منه هذه النماذج أن تفعل ما تفعله.

المستخدمون الذين يدفعون الآن مقابل الوصول إلى هذه النماذج هم، في كثير من الحالات، نفس الأشخاص الذين ساهمت أعمالهم في تدريبها. هذا ليس ادعاءً قانونياً. إن أسئلة حقوق الطبع والنشر حول بيانات تدريب الذكاء الاصطناعي معقدة حقاً ولا تزال محل نزاع في المحاكم عبر ولايات قضائية متعددة. لكنها ملاحظة هيكلية تهم الطريقة التي نفكر بها في العلاقة بين الممارسين والمنصات التي يستخدمونها.

عندما يُفرض على المحترف، الذي ساعد عمله الموثق في تدريب نموذج ما، رسوم مقابل كل استنتاج فاشل ينتجه ذلك النموذج، فإن المنطق الاقتصادي هنا يستحق الدراسة على الأقل.

أريد أن أكون مباشراً بشأن ما لا أجادل فيه.

أنا لا أجادل بأن أدوات الذكاء الاصطناعي يجب أن تكون مجانية. فالتطوير، والبنية التحتية، والحوسبة تكلف أموالاً حقيقية، ونماذج التسعير التي تعكس تلك التكاليف تعتبر شرعية.

أنا لا أجادل بأن الذكاء الاصطناعي يجب أن ينتج مخرجات مثالية. فلا توجد أداة تفعل ذلك، بما في ذلك تلك التي استخدمها الممارسون البشريون لعقود. الأخطاء متوقعة ويمكن التحكم فيها.

ما أجادل فيه هو أن هيكل المساءلة الحالي، الذي يتحمل فيه المستخدم التكلفة الكاملة للأخطاء التي تنشأ في النموذج، غير مستدام مع تحول هذه الأدوات إلى بنية تحتية مهنية بدلاً من كونها مجرد بدع استهلاكية.

تمتلك مهنة العمارة أطراً ناضجة لذلك. فعندما يختم مهندس إنشائي على عملية حسابية، فإنه يقبل المسؤولية عن دقتها. وعندما تصادق جهة تصنيع المواد على منتج ما، فإنها تلتزم بأدائه في ظل ظروف محددة. توجد هياكل المساءلة هذه لأن البيئة المبنية لها عواقب حقيقية، ويجب أن تكون الأطراف التي تشكلها قادرة على تحمل المسؤولية عن جودة مساهمتها.

مع دخول الذكاء الاصطناعي إلى سير العمل المهني بالمستوى الذي يدخله حالياً، فإن مسألة المساءلة عن أخطاء الذكاء الاصطناعي تصبح مسألة مهنية، وليست مجرد مسألة حقوق مستهلك.

من المسؤول عندما يغير الذكاء الاصطناعي عرض الشارع؟ عندما يزيل عنصراً إنشائياً من لقطة إظهار سيستخدمها العميل لاتخاذ قرار بناء؟ عندما لا يتم اكتشاف الهلوسة قبل أن تؤثر على نتيجة حقيقية؟

حالياً، لا أحد مسؤول. المنصة تخلت عن مسؤوليتها. المستخدم أنتج الأمر. والمخرجات توجد في فجوة بين النية البشرية والتنفيذ الآلي الذي ليس له مالك واضح.

لن يظل هذا هو الحال إلى أجل غير مسمى.

مع استخدام أدوات الذكاء الاصطناعي في سياقات أكثر أهمية، ستتطور الأطر القانونية والمهنية حول مخرجاتها. وتتجه بعض الولايات القضائية بالفعل نحو متطلبات الكشف عن المحتوى المولد بالذكاء الاصطناعي ومعالجة المسؤولية عن أخطاء الذكاء الاصطناعي في العقود التي تحكم الخدمات المهنية.

إن الشكل الذي سيبدو عليه إطار العمل المستقبلي سيتحدد جزئياً بمدى وضوح تعبير الممارسين عن المشكلة الآن، بينما لا تزال المعايير قيد التأسيس.

إن مهنة العمارة، التي تتمتع بخبرة تفوق غيرها في الإبحار في العلاقة بين الأدوات والمساءلة المهنية، لديها مساهمة تقدمها في هذه المحادثة.

الأداة التي ترسم عرض الشارع الخاطئ مع استهلاك ميزانية لا يمكنني استردادها ليست أداة محايدة. إنها فاعل في عملية مهنية لها رهانات.

إن معاملتها على هذا النحو، مع توقعات أداء مناسبة وآليات مساءلة مناسبة عندما لا يتم تلبية تلك التوقعات، ليس عداءً للتكنولوجيا.

إنه الشرط الأساسي لاستخدام أي أداة بشكل احترافي.

✦ رؤية ArchUp التحريرية

فجوة المسؤولية عن “الهلوسة” التي يصفها المقال ليست سهواً تنظيمياً ينتظر التصحيح — بل هي بنية تعاقدية مصممة عمداً تؤدي فيها شروط خدمة المنصة نفس الوظيفة التي أداها خروج المطور من الأصل المادي في كل حالة فحصها هذا الأرشيف مسبقاً: لقد أخلى الطرف الذي صمم حالة الفشل موقفه القانوني من المسؤولية قبل أن يتجسد الفشل في سياق مهني يحمل عواقب حقيقية. نموذج فوترة “الرموز” ليس عرضياً في هذا الترتيب؛ بل هو آليته الأساسية، لأن فرض رسوم على الاستنتاج بغض النظر عن دقة المخرجات يحول الخطأ نفسه إلى حدث مُدِر للإيرادات، مما يعني أن المنصة ليس لديها حافز هيكلي لتقليل معدلات الهلوسة إلى ما دون الحد الذي يتخلى عنده المستخدمون عن الأداة تماماً — وهو حد، كما أثبت مقال التصميم المعماري بعشرين دولاراً، يظل منخفضاً بشكل مصطنع بفضل تكلفة الاستبدال التي أرستها التبعية للمنصة بالفعل. إن الملاحظة الهيكلية الأكثر أهمية في المقال — وهي أن الممارسين الذين دربت أعمالهم الموثقة هذه النماذج يشترون الآن حق الوصول إلى مشتقات نتاجهم الجماعي ويتحملون تكلفة أخطائه — تصف “استخراجاً مزدوجاً” ليس له سابقة في اقتصاد الأدوات المهنية: لقد أُخذت المعرفة دون تعويض في مرحلة التدريب، ويتم تحميل تكلفة فشل توظيف تلك المعرفة لمنتجيها الأصليين في مرحلة الاستنتاج، بينما تحتل المنصة، في كلتا اللحظتين، موقع الطرف الذي يتحكم في الشروط ولا يتحمل أياً من المسؤوليات التي ستطالب بها البيئة المبنية في النهاية، وبشكل مادي، شخصاً ما.