الهلوسة (الذكاء الاصطناعي)

📅 آخر تحديث: ٢٤ يوليو ٢٠٢٦
✍️ نُشر في: ٢٤ يوليو ٢٠٢٦
📷 يحتوي على 6 صور
الموسوعة الحرة

فيديو لجسر جلينفينان في اسكتلندا تم إنشاؤه بواسطة سورا ، ويظهر بشكل غير صحيح: مسار ثان ، قطارات تسير على اليمين بدلاً من اليسار ، مدخنة ثانية في تفسيره لقطار اليعقوبي ، أطوال عربات غير متناسقة، كميات غير طبيعية من التشويش البصري، وعربة تنحني على طولها أثناء دورانها حول المنعطف.
جسر غلينفينان الحقيقي الذي يحمل صورة اليعقوبي

في مجال الذكاء الاصطناعي ، تُعرف الهلوسة أو الهلوسة الاصطناعية (وتُسمى أيضاً التضليل ، [ 1 ] [ 2 ] أو التلفيق ، [ 3 ] أو الوهم [ 4 ] ) بأنها استجابة يُولدها الذكاء الاصطناعي تحتوي على معلومات خاطئة أو مُضللة تُقدم على أنها حقائق . [ 5 ] تُشابه هذه المصطلحات إلى حد ما علم النفس البشري، حيث تنطوي الهلوسة عادةً على إدراكات خاطئة .

على سبيل المثال، قد يُضمّن برنامج دردشة آليّ مُزوّد ​​بنماذج لغوية ضخمة ، مثل ChatGPT ، معلوماتٍ خاطئة عشوائية تبدو معقولة ضمن محتواه المُولّد. ويُشكّل اكتشاف الأخطاء والهلوسات وتخفيفها تحدياتٍ كبيرة أمام النشر العملي لنماذج اللغة الضخمة وموثوقيتها في سيناريوهات بالغة الأهمية، مثل تصميم الرقائق الإلكترونية، ولوجستيات سلسلة التوريد، والتشخيص الطبي. [ 6 ] [ 7 ] [ 8 ] وقد انتقد بعض مهندسي البرمجيات والإحصائيين مصطلح "هلوسة الذكاء الاصطناعي" تحديدًا، لما فيه من إضفاء صفات بشرية غير منطقية على أجهزة الحاسوب . [ 9 ] [ 10 ] وعلى عكس نماذج اللغة الضخمة، لا تُنتج نماذج الذكاء الاصطناعي الرمزية عادةً هلوسات. [ 11 ]

شرط

أصل

في مجال رؤية الحاسوب ، ومنذ ثمانينيات القرن الماضي، يُطلق مصطلح "التلصص" على إضافة تفاصيل إلى صورة لتحسينها. على سبيل المثال، تُعدّ مهمة توليد صور وجوه عالية الدقة من مدخلات منخفضة الدقة مثالًا على " تلصص الوجه" . [ 12 ] [ 13 ] وقد طُرح هذا المصطلح لأول مرة في أطروحة الدكتوراه لإريك ميولسنيس عام 1986. [ 14 ] ومن الأعمال البارزة في هذا المجال خوارزمية "تلصص الوجه" التي وضعها سيمون بيكر وتاكيو كانادي ونُشرت عام 1999. [ 15 ]

في العقد الأول من القرن الحادي والعشرين، تم وصف الهلوسة في الترجمة الآلية الإحصائية على أنها نمط فشل. [ 16 ]

منذ العقد الثاني من الألفية الثانية، أصبح مصطلح "الهلوسة" يُشير إلى توليد أنظمة الذكاء الاصطناعي لمخرجات غير صحيحة أو مُضللة في مهام مثل الترجمة الآلية واكتشاف الأشياء . [ 12 ] في عام 2015، رصد سوراب غوبتا وجيتندرا مالك حالات هلوسة في مهام تصنيف الأدوار الدلالية البصرية . [ 17 ] وفي العام نفسه، استخدم عالم الحاسوب أندريه كارباثي مصطلح "الهلوسة" في تدوينة لوصف نموذج لغته القائم على الشبكة العصبية المتكررة (RNN) الذي يُولّد رابط اقتباس غير صحيح. [ 18 ] وفي عام 2017، استخدمه باحثون في جوجل لوصف الاستجابات التي تُنتجها نماذج الترجمة الآلية العصبية (NMT) عندما لا تكون مرتبطة بالنص الأصلي، [ 19 ] وفي عام 2018، استُخدم في مجال رؤية الحاسوب لوصف الكشف الخاطئ عن أشياء غير موجودة من خلال الهجمات المُعادية. [ 20 ]

في يوليو 2021، حذّرت شركة ميتا، خلال إطلاقها لـ BlenderBot 2، من أن النظام عُرضة للوهم، والذي يُعرّف بأنه "تصريحات واثقة غير صحيحة". [ 21 ] [ 22 ] بعد إطلاق OpenAI لـ ChatGPT في نسخته التجريبية في نوفمبر 2022، اشتكى بعض المستخدمين من أن هذه الروبوتات الدردشة غالبًا ما تُضمّن، دون داعٍ، معلومات خاطئة عشوائية تبدو معقولة ضمن محتواها المُولّد. [ 23 ] بدأت العديد من وسائل الإعلام، بما في ذلك صحيفة نيويورك تايمز ، باستخدام مصطلح "الوهم" لوصف ردود هذه النماذج غير الصحيحة أو المتناقضة في كثير من الأحيان. [ 24 ]

في عام 2023، قام قاموس كامبريدج بتحديث تعريف الهلوسة ليشمل هذا المعنى الجديد الخاص بمجال الذكاء الاصطناعي. [ 25 ]

أشار بعض الباحثين إلى عدم وجود اتساق في كيفية استخدام مصطلح الهلوسة ، لكنهم حددوا أيضاً العديد من المصطلحات البديلة في الأدبيات، مثل التلفيقات والاختلاقات والأخطاء الواقعية. [ 12 ]

التعريفات والبدائل

أظهرت نتائج استطلاع الذكاء الاصطناعي (10 أغسطس 2025) خطأً أن خواكين كوريا هو شقيق أنخيل كوريا ؛ فالاثنان ليسا من نفس العائلة. [ 26 ]

تشمل استخدامات وتعريفات وخصائص مصطلح الهلوسة في سياق برامج الماجستير في القانون ما يلي:

  • "ميل إلى اختلاق الحقائق في لحظات عدم اليقين" (OpenAI، مايو 2023) [ 27 ]
  • "الأخطاء المنطقية للنموذج" (OpenAI، مايو 2023) [ 27 ]
  • "تلفيق المعلومات بالكامل، ولكن التصرف كما لو كان ينطق بالحقائق" ( سي إن بي سي ، مايو 2023) [ 27 ]
  • "تلفيق المعلومات" ( ذا فيرج ، فبراير 2023) [ 28 ]
  • "توزيعات الاحتمالات" (في السياقات العلمية) [ 29 ]

كتب الصحفي بنج إدواردز، في موقع آرس تكنيكا ، أن الهلوسة مثيرة للجدل، لكن يبقى استخدام شكل من أشكال الاستعارة ضروريًا؛ ويقترح إدواردز التلفيق كتشبيه للعمليات التي تنطوي على "ملء الفراغات الإبداعية". [ 3 ] في يوليو 2024، لم يذكر تقرير للبيت الأبيض حول تعزيز ثقة الجمهور في أبحاث الذكاء الاصطناعي الهلوسة إلا في سياق الحد منها. والجدير بالذكر أنه عند الإشادة بعمل ديفيد بيكر الحائز على جائزة نوبل في مجال البروتينات المولدة بالذكاء الاصطناعي، تجنبت لجنة نوبل ذكرها تمامًا، واكتفت بالإشارة إلى "ابتكار البروتينات الخيالي". [ 29 ]

يجادل هيكس وهمفريز وسلاتر، في مقالهم المنشور في مجلة " الأخلاقيات وتكنولوجيا المعلومات "، بأن مخرجات نماذج التعلم الآلي (LLMs) هي هراء وفقًا لتعريف هاري فرانكفورت ، وأن هذه النماذج "غير مبالية إلى حد كبير بصحة مخرجاتها"، حيث تكون العبارات الصحيحة صحيحة بالصدفة فقط، والعبارات الخاطئة خاطئة بالصدفة أيضًا. [ 1 ] : 9 كما يصف بعض الباحثين الاستخدام غير النقدي للذكاء الاصطناعي بأنه هراء . [ 30 ]

نقد

في الأوساط العلمية، يتجنب بعض الباحثين استخدام مصطلح "الهلوسة" لما قد ينطوي عليه من تضليل. وقد انتقد أسامة فياض ، المدير التنفيذي لمعهد الذكاء الاصطناعي التجريبي في جامعة نورث إيسترن ، هذا المصطلح لأنه يُضفي صفات بشرية على نماذج اللغة الكبيرة، ويتسم بالغموض. [ 31 ] وقالت عالمة الحاسوب ماري شو : "إنّ شيوع تسمية أخطاء الذكاء الاصطناعي التوليدي بـ"الهلوسة" أمرٌ مُريع. فهو يُضفي صفات بشرية على البرنامج، ويُصوّر الأخطاء الفعلية على أنها غرائب ​​خاصة بالنظام حتى وإن كانت خاطئة موضوعيًا." [ 9 ] ويجادل الإحصائي غاري سميث بأن نماذج اللغة الكبيرة "لا تفهم معاني الكلمات"، وبالتالي فإنّ استخدام مصطلح "الهلوسة" يُضفي صفات بشرية على الآلة بشكل غير منطقي. [ 10 ] يرى موراي شاناهان أن تأطير قدرات التعلم الآلي للتعلم الآلي بصورة مجازية، بما في ذلك مصطلحات مثل الهلوسة ، يشجع المستخدمين والباحثين على إسناد العمليات المعرفية إلى الأنظمة التي تعمل من خلال إكمال الأنماط الإحصائية، ويدعو إلى ممارسات لغوية أكثر دقة عند مناقشة سلوك التعلم الآلي للتعلم الآلي. [ 32 ] وتجادل كريستينا شيكرست بأن تطبيق المصطلحات النفسية على مخرجات التعلم الآلي للتعلم الآلي يحجب الفرق بين مظهر الخصائص العقلية ووجودها الحقيقي. [ 33 ] ويؤكد فورستر وسكوب أن شركات التكنولوجيا تستخدم استعارة الهلوسة لإضفاء صفات مجازية على النماذج والتنصل من المسؤولية عن المخرجات غير الواقعية. [ 34 ]

يرى البعض أن مخرجات الذكاء الاصطناعي ليست وهمية، بل محتملة، أي أنها تحمل احتمالاً ما أن تكون صحيحة، على غرار التخمينات العلمية في مراحلها الأولى. وقد تعرض هذا المصطلح أيضاً لانتقادات لارتباطه بتجارب تعاطي المخدرات المهلوسة. [ 29 ]

في لغة التوليد الطبيعية

تؤدي الترجمة على منصة اختبار Vicuna LLM من اللغة الإنجليزية إلى لغة Lojban المصطنعة ، ثم العودة إلى اللغة الإنجليزية في جولة جديدة، إلى توليد قطعة أثرية سريالية من سفر التكوين 1:6 ( RSV ).

في مجال توليد اللغة الطبيعية ، هناك عدة أسباب تجعل نماذج اللغة الطبيعية تتخيل: [ 35 ]

الهلوسة الناتجة عن البيانات

قد تنجم الهلوسة عن مجموعات بيانات غير مكتملة أو غير دقيقة أو غير ممثلة. [ 36 ]

يتضمن التدريب المسبق لنماذج المحولات التوليدية المدربة مسبقًا (GPT) التنبؤ بالكلمة التالية. ويحفز هذا التدريب نماذج GPT على "التخمين" بشأن الكلمة التالية، حتى في حال عدم توفر المعلومات. [ 37 ] يتخذ بعض الباحثين منظورًا أنثروبومورفيًا، ويفترضون أن الهلوسة تنشأ من توتر بين الجدة والفائدة. فعلى سبيل المثال، يُعرّف أمابيل وبرات الإبداع البشري بأنه إنتاج أفكار جديدة ومفيدة. [ 38 ] وبناءً على ذلك، فإن التركيز على الجدة في الإبداع الآلي قد يؤدي إلى إنتاج استجابات أصلية ولكنها غير دقيقة - أي خاطئة - بينما قد يؤدي التركيز على الفائدة إلى محتوى محفوظ يفتقر إلى الأصالة. [ 39 ]

بحلول عام 2022، أعربت صحف مثل صحيفة نيويورك تايمز عن قلقها من أنه مع استمرار نمو استخدام برامج الروبوت القائمة على نماذج لغوية ضخمة، فإن ثقة المستخدمين غير المبررة في مخرجات هذه البرامج قد تؤدي إلى مشاكل. [ 40 ]

بحث قابل للتفسير

في عام 2025، ووفقًا لبحث أجرته شركة أنثروبيك حول قابلية تفسير بيانات كلود ، يبدو أن الذاكرة العاملة للدماغ (LLM) تمتلك دوائر داخلية تجعلها تمتنع عن الإجابة على الأسئلة ما لم تكن تعرف الإجابة. في الوضع الافتراضي، تكون هذه الدوائر نشطة ولا تجيب الذاكرة العاملة للدماغ. وعندما تتوفر لدى الذاكرة العاملة للدماغ معلومات كافية، تُعطَّل هذه الدوائر وتجيب الذاكرة العاملة للدماغ على السؤال. وذكر الباحثون أن الهلوسة تحدث عندما يحدث هذا التثبيط بشكل خاطئ، كما هو الحال عندما تتعرف كلود على اسم ما ولكنها تفتقر إلى معلومات كافية عن ذلك الشخص، مما يدفعها إلى توليد إجابات تبدو معقولة ولكنها غير صحيحة. [ 41 ]

أمثلة

في 15 نوفمبر 2022، نشر باحثون من شركة Meta AI برنامج Galactica [ 42 ] ، المصمم "لتخزين المعرفة العلمية ودمجها وتحليلها". وقد أُرفق المحتوى الذي يُنتجه Galactica بتحذير: "قد تكون المخرجات غير موثوقة! نماذج اللغة عُرضة لتشويه النصوص". في إحدى الحالات، عندما طُلب من Galactica كتابة ورقة بحثية حول إنشاء الصور الرمزية، استشهدت بورقة بحثية وهمية لمؤلف حقيقي يعمل في المجال ذي الصلة. سحبت Meta برنامج Galactica في 17 نوفمبر بسبب ما اعتبرته مسيئًا وغير دقيق. [ 43 ]

استند برنامج ChatGPT من OpenAI ، الذي أُطلق بنسخته التجريبية للجمهور في 30 نوفمبر 2022، إلى النموذج الأساسي GPT-3.5 (وهو نسخة مُعدّلة من GPT-3). وصفه البروفيسور إيثان موليك من كلية وارتون بأنه "متدرب كلي المعرفة، حريص على إرضاء الآخرين، ولكنه قد يكذب عليك أحيانًا". وروت عالمة البيانات تيريزا كوباكا أنها ابتكرت عمدًا عبارة "cycloidal verted electromagnon" واختبرت ChatGPT بسؤاله عن هذه الظاهرة (غير الموجودة). قدّم ChatGPT إجابة تبدو معقولة مدعومة بمراجع تبدو معقولة أيضًا، مما دفعها إلى إعادة التحقق مما إذا كانت قد كتبت اسم ظاهرة حقيقية عن طريق الخطأ. وانضم باحثون آخرون، مثل أورين إتزيوني، إلى كوباكا في تقييم أن مثل هذه البرامج غالبًا ما تُقدّم "إجابة تبدو مُبهرة للغاية، ولكنها خاطئة تمامًا". [ 44 ]

عندما طلبت قناة CNBC من ChatGPT كلمات أغنية " Ballad of Dwight Fry "، قدّم ChatGPT كلماتٍ مُختلقة بدلاً من الكلمات الأصلية. [ 45 ] وعند سؤاله عن مقاطعة نيو برونزويك الكندية، أجاب ChatGPT على العديد من الأسئلة بشكل صحيح، لكنه صنّف سامانثا بي، المولودة في تورنتو، بشكل خاطئ على أنها "شخص من نيو برونزويك". [ 46 ] وعند سؤاله عن المجالات المغناطيسية الفلكية، تطوّع ChatGPT بشكل خاطئ قائلاً إن "المجالات المغناطيسية (القوية) للثقوب السوداء تتولد بفعل قوى الجاذبية الشديدة في جوارها". (في الواقع، ونتيجةً لنظرية انعدام الشعر ، يُعتقد أن الثقب الأسود الذي لا يحتوي على قرص تراكمي لا يمتلك مجالاً مغناطيسياً). [ 47 ] وطلبت مجلة Fast Company من ChatGPT كتابة مقال إخباري عن الربع المالي الأخير لشركة تسلا؛ فأنشأ ChatGPT مقالاً متماسكاً، لكنه اختلق الأرقام المالية الواردة فيه. [ 48 ]

عندما يُطلب من برنامج الدردشة الآلي "تلخيص مقال" باستخدام عنوان URL وهمي يحتوي على كلمات مفتاحية ذات معنى، حتى بدون اتصال بالإنترنت، فإنه يُنشئ استجابة تبدو صحيحة للوهلة الأولى.

تتضمن أمثلة أخرى استدراج برنامج ChatGPT بفرضية خاطئة لاختبار قدرته على إضافة تفاصيل إليها. فعندما سُئل عن " فكرة هارولد كوارد عن القانونية الديناميكية"، ادّعى ChatGPT أن كوارد ألّف كتابًا بعنوان "القانونية الديناميكية: نموذج للتفسير الكتابي واللاهوتي" ، زاعمًا أن المبادئ الدينية في حالة تغير مستمر. وعندما أُلحّ عليه، أصرّ ChatGPT على أن الكتاب حقيقي. [ 49 ] وعندما طُلب منه تقديم دليل على أن الديناصورات بنت حضارة، زعم ChatGPT وجود بقايا أحفورية لأدوات الديناصورات، وذكر: "بل إن بعض أنواع الديناصورات طوّرت أشكالًا بدائية من الفن، مثل النقوش على الأحجار". [ ٥٠ ] عندما سُئل عن اكتشاف العلماء مؤخرًا أن " حلوى التشورو ، وهي معجنات لذيذة مقلية  ... (تُعد) أدوات مثالية للجراحة المنزلية"، ادعى ChatGPT أن "دراسة نُشرت في مجلة Science " وجدت أن العجين مرن بما يكفي لتشكيله على هيئة أدوات جراحية يمكن الوصول إليها في أماكن يصعب الوصول إليها، وأن نكهته لها تأثير مهدئ على المرضى. [ ٥١ ] [ ٥٢ ]

بحلول عام 2023، اعتبر المحللون الهلوسة المتكررة مشكلة رئيسية في تقنية التعلم الآلي القائم على التعلم الآلي، حيث وصف أحد مسؤولي جوجل الحد من الهلوسة بأنه مهمة "أساسية" لمنافس ChatGPT، جوجل جيميني . [ 8 ] [ 53 ] وظهر عرض توضيحي في عام 2023 لذكاء Bing الاصطناعي من مايكروسوفت (الذي يُعرف الآن باسم Microsoft Copilot ) والمبني على GPT، أنه يحتوي على العديد من الهلوسات التي لم يلاحظها مقدم العرض. [ 8 ]

في يونيو/حزيران 2023، رفع مارك والترز، الناشط في مجال حقوق حمل السلاح والشخصية الإذاعية المعروفة، دعوى قضائية ضد شركة OpenAI في محكمة بولاية جورجيا، بعد أن أساء برنامج ChatGPT صياغة شكوى قانونية بطريقة زُعم أنها تشهيرية بحق والترز. وكانت مؤسسة التعديل الثاني قد رفعت الدعوى في مايو/أيار 2023 ضد المدعي العام لولاية واشنطن، روبرت دبليو فيرغسون، بتهمة انتهاك حرية التعبير، في حين أن الملخص الذي أنشأه برنامج ChatGPT لم يكن له أي صلة بالموضوع، بل زعم أن والترز متهم بالاختلاس والاحتيال أثناء شغله منصبًا في مؤسسة التعديل الثاني لم يشغله قط. ووفقًا للخبير القانوني في مجال الذكاء الاصطناعي، يوجين فولك ، فمن المرجح أن OpenAI غير مشمولة بحماية المادة 230 من قانون حقوق النشر، لأنها على الأرجح "ساهمت بشكل جوهري" في إنشاء المحتوى التشهيري. [ 54 ] في مايو 2025، أصدرت القاضية ترايسي كاسون من المحكمة العليا لمقاطعة غوينيت حكمًا لصالح شركة OpenAI، موضحةً أن المدعي لم يُثبت تعرضه للتشهير، حيث فشل والترز في إثبات أن تصريحات OpenAI بشأنه كانت إهمالًا أو صدرت بسوء نية. [ 55 ]

في فبراير 2024، أمرت محكمة تسوية المنازعات المدنية شركة الطيران الكندية "إير كندا" بدفع تعويضات لأحد عملائها، والالتزام بسياسة أسعار خاصة بحالات الوفاة ، والتي تم تفسيرها بشكل خاطئ من خلال برنامج دردشة آلي للدعم، حيث ذكر البرنامج خطأً أنه بإمكان العملاء طلب خصم خاص بحالات الوفاة بأثر رجعي خلال 90 يومًا من تاريخ إصدار التذكرة (بينما لا تسمح السياسة الفعلية بطلب الخصم بعد حجز الرحلة). ورفضت المحكمة دفاع "إير كندا" بأن برنامج الدردشة الآلي "كيان قانوني مستقل مسؤول عن أفعاله". [ 56 ] [ 57 ]

في أكتوبر/تشرين الأول 2025، تم اكتشاف العديد من الأخطاء، بما في ذلك مصادر أكاديمية وهمية واقتباس مزيف من حكم محكمة اتحادية، في تقرير بقيمة 440 ألف دولار أسترالي أعدته شركة ديلويت وقُدِّم إلى الحكومة الأسترالية في يوليو/تموز. وقد قدمت الشركة لاحقًا تقريرًا منقحًا بعد تصحيح هذه الأخطاء، وستقوم برد جزء من المبلغ للحكومة. [ 58 ] [ 59 ] وفي الشهر التالي، نوفمبر/تشرين الثاني 2025، كشفت صحيفة "ذي إندبندنت" ، وهي صحيفة تصدر في نيوفاوندلاند ولابرادور بكندا، أن خطة ديلويت للموارد البشرية الصحية، التي تبلغ قيمتها 1.6 مليون دولار كندي، والمُخصصة لحكومة نيوفاوندلاند ولابرادور، والتي تم تكليفها في مايو/أيار 2025، احتوت على أربعة اقتباسات خاطئة على الأقل لأبحاث غير موجودة. [ 60 ] [ 61 ]

في طرق أخرى

تُظهر الصور أعلاه مثالًا على كيفية قيام الشبكة العصبية الاصطناعية بإنتاج نتيجة إيجابية خاطئة في اكتشاف الأجسام . الصورة المدخلة هي مثال مبسط لمرحلة التدريب، باستخدام صور متعددة معروفة بتصوير نجم البحر وقنافذ البحر ، على التوالي. يتطابق نجم البحر مع نسيج حلقي وشكل نجمي، بينما تتطابق معظم قنافذ البحر مع نسيج مخطط وشكل بيضاوي. ومع ذلك، فإن وجود قنفذ بحر ذي نسيج حلقي يُنشئ ارتباطًا ضعيفًا بينهما.
تشغيل الشبكة لاحقًا على صورة مُدخلة (يسار): [ 62 ] تكتشف الشبكة نجم البحر بشكل صحيح. مع ذلك، فإن الارتباط الضعيف بين النسيج الحلقي وقنفذ البحر يُعطي إشارة ضعيفة للأخير من إحدى العقدتين الوسيطتين. إضافةً إلى ذلك، تُعطي صدفة لم تُدرج في التدريب إشارة ضعيفة للشكل البيضاوي، مما ينتج عنه أيضًا إشارة ضعيفة لقنفذ البحر. قد تُؤدي هذه الإشارات الضعيفة إلى نتيجة إيجابية خاطئة لوجود قنفذ بحر، على الرغم من عدم وجوده في الصورة المُدخلة. في الواقع، لا تُمثل الأنسجة والخطوط الخارجية بعقدة واحدة، بل بأنماط أوزان مُرتبطة من عدة عقد.

اكتشاف الأجسام

صنّف باحثون مختلفون، استشهدت بهم مجلة Wired، الهلوسات الخصومية كظاهرة إحصائية متعددة الأبعاد، أو عزوها إلى نقص بيانات التدريب. ويعتقد بعض الباحثين أن بعض استجابات الذكاء الاصطناعي "الخاطئة"، التي يصنفها البشر على أنها "هلوسات" في حالة اكتشاف الأشياء، قد تكون في الواقع مبررة ببيانات التدريب، أو حتى أن الذكاء الاصطناعي قد يُعطي الإجابة "الصحيحة" التي يعجز المراجعون البشريون عن رؤيتها. على سبيل المثال، قد يرى الذكاء الاصطناعي صورةً خصومية تبدو، للإنسان، كصورة عادية لكلب، على أنها تحتوي على أنماط دقيقة (في الصور الحقيقية) لا تظهر إلا عند رؤية قطة. يكتشف الذكاء الاصطناعي أنماطًا بصرية من العالم الحقيقي لا يدركها البشر. [ 63 ]

أشارت مجلة Wired في عام 2018 إلى أنه على الرغم من عدم تسجيل أي هجمات "فعلية" (أي خارج نطاق هجمات إثبات المفهوم التي يجريها الباحثون)، إلا أنه "لا جدال يُذكر" في أن الأجهزة الاستهلاكية، وأنظمة مثل القيادة الآلية ، عُرضة لهجمات معادية قد تُسبب هلوسة للذكاء الاصطناعي. ومن الأمثلة على ذلك: إشارة توقف غير مرئية للرؤية الحاسوبية؛ ومقطع صوتي مُصمم ليبدو غير ضار للبشر، لكن البرنامج ترجمه إلى "evil.com"؛ وصورة لرجلين على زلاجات، حددتها خدمة Google Cloud Vision على أنها "كلب" بنسبة 91%. [ 20 ] ومع ذلك، فقد طعن باحثون آخرون في هذه النتائج. [ 64 ] فعلى سبيل المثال، اعترضوا على أن النماذج قد تكون متحيزة نحو الإحصاءات السطحية، مما يجعل التدريب على الهجمات المعادية غير فعال في سيناريوهات العالم الحقيقي. [ 64 ]

الذكاء الاصطناعي التوليدي لتحويل النصوص إلى صور

غالبًا ما تُنتج نماذج تحويل النصوص إلى صور، مثل Stable Diffusion و Midjourney وغيرها، نتائج غير دقيقة أو غير متوقعة. فعلى سبيل المثال، صوّر برنامج Gemini جنود ألمانيا النازية على أنهم من ذوي البشرة الملونة ، [ 65 ] مما أثار جدلًا واسعًا ودفع جوجل إلى إيقاف توليد الصور التي تتضمن أشخاصًا في Gemini. [ 66 ] كما يُستخدم الذكاء الاصطناعي التوليدي في البحث عن الصور، مما يُسبب مشاكل في بعض الأحيان. يصف لوثر (2025) حالاتٍ قامت فيها أدوات الذكاء الاصطناعي التوليدي المستخدمة في البحث عن الصور بتحديد هوية الأفراد بشكل خاطئ أو اختلاق تطابقات تاريخية عند تحليل الصور العسكرية الأرشيفية. يمكن أن تؤدي هذه التصورات الخاطئة القائمة على الصور إلى انتشار معلومات مضللة حول الشخصيات التاريخية والسجلات العسكرية وأبحاث الأنساب. [ 67 ]

الولايات المتحدة

أصدر القضاة عقوبات، ووجهت نقابات المحامين تحذيرات. وفي قاعات المحاكم في جميع أنحاء البلاد، تم ضبط محامين وهم يقدمون مذكرات تتضمن استشهادات بقضايا لم تكن موجودة أصلاً - سوابق وهمية ابتكرتها أدوات الذكاء الاصطناعي التي تنشر معلومات مغلوطة بسلطة خفية. لم يُثنِ أي من ذلك شركات المحاماة الكبرى عن رهانها على الذكاء الاصطناعي، بل على العكس، زادت من استثماراتها فيه. [ 68 ]

— مجلة فورتشن ، ١٢ مايو ٢٠٢٦

أدى اعتماد مكاتب المحاماة للذكاء الاصطناعي التوليدي في البحوث القانونية خلال العقد الثاني من القرن الحادي والعشرين إلى تقديم العديد من الملفات إلى المحاكم تتضمن هلوسات، ما دفع القضاة الأمريكيين في جميع أنحاء البلاد إلى معاقبة المحامين أو توبيخهم. [ 69 ] [ 70 ] وفي أبريل 2025، أنشأ داميان شارلوتان، محاضر تحليل البيانات القانونية في جامعة الدراسات العليا التجارية في باريس (HEC Paris) ومعهد العلوم السياسية (Sciences Po) ، قاعدة بيانات للحوادث بعنوان "حالات الهلوسة في الذكاء الاصطناعي" . وبعد عام واحد، احتوت القاعدة على أكثر من 1300 حالة من الهلوسات في القرارات القانونية. [ 71 ] [ 72 ]

في مايو 2023، اكتُشف أن ستيفن شوارتز قدّم ستة سوابق قضائية مزيفة، أنشأها برنامج ChatGPT، في مذكرته المقدمة إلى المحكمة الجزئية الجنوبية لنيويورك في قضية ماتا ضد شركة أفيانكا، وهي قضية إصابة شخصية ضد شركة الطيران أفيانكا . وذكر شوارتز أنه لم يستخدم ChatGPT من قبل، وأنه لم يدرك إمكانية تزوير مخرجات البرنامج، وأن ChatGPT استمر في التأكيد على صحة السوابق القضائية حتى بعد اكتشاف عدم وجودها. [ 73 ] وردًا على ذلك، حظر برانتلي ستار، من المحكمة الجزئية الشمالية لتكساس، تقديم ملفات القضايا التي أنشأها الذكاء الاصطناعي ولم يراجعها إنسان، مشيرًا إلى ما يلي: [ 74 ] [ 75 ]

تُعاني منصات الذكاء الاصطناعي التوليدي، في وضعها الحالي، من الهلوسة والتحيز . ففي خضم هذه الهلوسة، تُختلق الأمور، حتى الاقتباسات والاستشهادات. وثمة مشكلة أخرى تتمثل في الموثوقية أو التحيز. فبينما يُقسم المحامون على نبذ تحيزاتهم ومعتقداتهم الشخصية والالتزام بالقانون وتمثيل موكليهم بأمانة، فإن الذكاء الاصطناعي التوليدي هو نتاج برمجة صممها بشر لم يُلزموا بأداء مثل هذا القسم. ولذلك، لا تدين هذه الأنظمة بالولاء لأي موكل، أو لسيادة القانون، أو لقوانين ودستور الولايات المتحدة (أو، كما ذُكر آنفًا، للحقيقة). وبلا أي التزام بالواجب أو الشرف أو العدالة، تعمل هذه البرامج وفقًا لشفرة برمجية لا قناعة، وتستند إلى البرمجة لا إلى المبادئ.

في 23 يونيو/حزيران 2023، رفض القاضي بي. كيفن كاستل قضية ماتا ، وفرض غرامة قدرها 5000 دولار أمريكي على شوارتز ومحامٍ آخر - اللذين استمرا في التمسك بالسوابق القضائية الوهمية رغم ادعاءات شوارتز السابقة - لسوء سلوكهما . ووصف كاستل العديد من الأخطاء والتناقضات في ملخصات الرأي، واصفًا أحد الآراء المذكورة بأنه "هراء" و"يكاد يكون بلا معنى". [ 76 ]

في مايو/أيار 2025، وجّه القاضي إدوارد تشين إنذارًا إلى آشلي غيوفيك ، المدعية البارزة التي مثّلت نفسها بنفسها ، والحاصلة على دكتوراه في القانون من كلية الحقوق بجامعة سانتا كلارا ، في محكمة المقاطعة الأمريكية للمنطقة الشمالية من كاليفورنيا ، وذلك لإدراجها العديد من الهلوسات الناتجة عن الذكاء الاصطناعي في قضيتها ضد شركة آبل ، والتي تتعلق بالانتقام من المبلغين عن المخالفات والفصل التعسفي، في قضية غيوفيك ضد آبل . وحذّر القاضي من أن تكرار مثل هذه الحالات سيؤدي إلى اعتبار غيوفيك متهمة بازدراء المحكمة وسحب امتيازاتها في تمثيل نفسها. تُعدّ هذه القضية أساسية في القاعدة 11 من قواعد الإجراءات المدنية الفيدرالية المتعلقة بالسلوك المهني، والتي استشهد بها قضاة آخرون مرارًا وتكرارًا كمعيار عملي. [ 77 ] كما ناقشتها نقابة المحامين الأمريكية عند تحديث قواعد السلوك المهني النموذجية، واستشهدت بها في رأيها بشأن استخدام الذكاء الاصطناعي التوليدي. [ 78 ]

في سبتمبر/أيلول 2025، فرض القاضي بيتر كانغ، قاضي محكمة الصلح في المحكمة الوطنية الأمريكية، عقوبة على المحامية كاثرين سيرفانتس، من مكتب ويب للمحاماة، بسبب تقديمها طلبًا بتاريخ 21 يوليو/تموز تضمن صورةً وهميةً للذكاء الاصطناعي، زعمت أنها حصلت عليها من أداة الذكاء الاصطناعي التابعة لشركة تومسون رويترز ، ويستلو إيه آي . وفي 28 أبريل/نيسان 2026، فرض القاضي كانغ عقوبةً وغرامةً على ليندن ويب، الشريك الإداري في مجموعة ويب للمحاماة، لتقصيره في الإشراف على سيرفانتس - وهي محامية مبتدئة تستخدم الذكاء الاصطناعي لأول مرة - مما سمح بتقديم الطلب القانوني الذي تضمن الصورة الوهمية للذكاء الاصطناعي بتاريخ 21 يوليو/تموز 2025. [ 79 ]

في 18 مارس/آذار 2026، مثلت مساعدة المدعي العام في مقاطعة كلايتون بولاية جورجيا ، ديبورا ليزلي، أمام المحكمة العليا في جورجيا لتقديم مرافعات شفهية بشأن أمر برفض استئناف إدانة بالقتل، وهو الأمر الذي استند إليه قاضي المحكمة العليا في مقاطعة كلايتون لرفض طلب المدعى عليها. خلال الجلسة، أشار رئيس القضاة نيلز إس. دي. بيترسون إلى وجود خمسة مراجع وهمية على الأقل في الملف، بالإضافة إلى خمسة مراجع أخرى لا تدعم الادعاء الذي استندت إليه. في 30 مارس/آذار 2026، أقرت ليزلي في إفادة خطية بعدم التحقق من "البحث القانوني الموسع" الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي استُخدم لإعداد الأمر، وهو ما أكدته المدعية العامة تاشا موسلي في اعتذار خطي لبيترسون. [ 80 ] [ 81 ] في 5 مايو/أيار، نقضت المحكمة العليا حكم المحكمة الأدنى وأمرت بإصدار أمر جديد يتضمن مراجع قانونية صحيحة. كما تم إيقاف ليزلي عن ممارسة المحاماة أمام المحكمة العليا لمدة ستة أشهر، وأُمرت بتلقي تدريب إضافي في مجال الأخلاقيات والاستخدام السليم للذكاء الاصطناعي. [ 82 ]

في أبريل 2026، قدمت شركة سوليفان وكرومويل اعتذارًا إلى محكمة الإفلاس الأمريكية للمنطقة الجنوبية من نيويورك ، وذلك بعد اكتشاف شركة بويز شيلر فليكسنر لاقتباسات قانونية وهمية قدمها الفريق القانوني الخصم إلى المحكمة نيابةً عن موكلهم شركة برينس غلوبال هولدينغز المحدودة. [ 83 ] [ 84 ]

في 28 أبريل 2026، وجّه القاضي روبرت تي. نامبرز، قاضي الصلح الأمريكي، توبيخًا رسميًا للمدعي العام الأمريكي المساعد السابق رودي رينفر، لتقديمه مذكرة إلى المحكمة تتضمن اقتباسات ملفقة ومراجع قانونية كاذبة في الشهر السابق، [ 70 ] وبعد ذلك تم فصل رينفر من منصبه في محكمة الولايات المتحدة للمنطقة الشرقية من ولاية كارولينا الشمالية، حيث عمل لمدة 17 عامًا. [ 85 ]

كندا

حتى تاريخ 14 يونيو/حزيران 2026، تلقت المحاكم والهيئات القضائية الكندية ما لا يقل عن 167 ملفًا تتضمن ادعاءات وهمية ناتجة عن هلوسات الذكاء الاصطناعي، وذلك في 51 محكمة وهيئة قضائية. [ 86 ] [ 87 ] [ 88 ] وفي 9 يونيو/حزيران 2026، صرّح رئيس قضاة كندا، معالي ريتشارد فاغنر، بأن الذكاء الاصطناعي حاضر في قاعات المحاكم "بطرق واعدة وإشكالية في آنٍ واحد". [ 89 ]

إنجلترا وويلز

في البحث العلمي

مشاكل

هناك العديد من الأمثلة الموثقة على استخدام نماذج التعلم الآلي (LLMs) لمصادر تستشهد بمصادر غير صحيحة أو غير موجودة. فقد أظهرت دراسة أجريت عام 2023 ونُشرت في مجلة كيوريوس للعلوم الطبية أن 69 مرجعًا من أصل 178 مرجعًا استشهد بها نموذج GPT-3، أعطت مُعرّفًا رقميًا للكائن (DOI) غير صحيح أو غير موجود . كما أن 28 مرجعًا إضافيًا لم يكن لها مُعرّف رقمي معروف، ولم يُمكن العثور عليها في بحث جوجل . [ 90 ]

في عام 2023، وثّق جيروم غودارد من جامعة ولاية ميسيسيبي حالةً أخرى . ففي إحدى التجارب، قدّم برنامج ChatGPT معلوماتٍ مشكوكًا فيها حول القراد . ولعدم تأكدهم من صحة المعلومات، استفسروا عن مصدرها. وبعد مراجعة المصدر، تبيّن أن مُعرّف الكائن الرقمي (DOI) وأسماء المؤلفين كانت مُختلقة. وقد تم التواصل مع بعض المؤلفين الذين أكدوا عدم علمهم بوجود البحث أصلًا. [ 91 ] يقول غودارد: "في ظلّ المرحلة الحالية من تطوير ChatGPT، لا ينبغي للأطباء والباحثين في مجال الطب الحيوي أن يطلبوا من ChatGPT مصادر أو مراجع أو اقتباسات حول موضوعٍ مُحدد. وإن فعلوا، فعليهم التحقق بدقة من صحة جميع هذه المراجع." [ 91 ] إن استخدام هذه النماذج اللغوية غير مُناسبٍ لمجالات البحث الأكاديمي، ويجب التعامل مع استخدامها بحذر. [ 92 ]

قالت نينا شيك إنّ القدرة الإقناعية للمحتوى المُختلق الذي تُنتجه أنظمة الذكاء الاصطناعي تُشكّل مخاطر على المؤسسات الديمقراطية، إذ تُتيح نشر روايات مُقنعة ولكنها زائفة. وأضافت: "يكمن الخطر الأساسي على الديمقراطية في مستقبل يُستخدم فيه الذكاء الاصطناعي كمحركٍ لتغذية جميع المعلومات والمعرفة، مما يُؤدي بالتالي إلى تآكل الثقة في وسيلة المعلومات الرقمية نفسها". وأشارت إلى أن الانتشار السريع للذكاء الاصطناعي التوليدي قد يُهدد ثقة الجمهور من خلال طمس الحدود بين المعلومات المُوثّقة والمعلومات المُضلّلة المُصنّعة. [ 93 ]

إضافةً إلى تقديم مواد مرجعية غير صحيحة أو مفقودة، يُعاني ChatGPT أيضًا من مشكلة في تفسير محتوى بعض المواد المرجعية بشكل خاطئ. فقد وثّقت دراسة حللت 115 مرجعًا قدمها ChatGPT-3.5 أن 47% منها مُختلقة. كما استشهد 46% منها بمراجع حقيقية، لكنه استخرج منها معلومات غير صحيحة. أما النسبة المتبقية البالغة 7% فقط من المراجع فقد تم الاستشهاد بها بشكل صحيح وقدمت معلومات دقيقة. ولوحظ أيضًا أن ChatGPT يُصرّ على الكثير من المعلومات غير الصحيحة. فعند سؤاله عن خطأ قد يكون مُختلقًا، يُحاول ChatGPT أحيانًا تصحيح نفسه، لكنه في أحيان أخرى يدّعي صحة الإجابة ويُقدم معلومات مُضللة أكثر . [ 94 ]

تُشكّل هذه المقالات المُولّدة بواسطة نماذج اللغة إشكاليةً أيضاً، إذ يصعب تحديد ما إذا كانت المقالة قد أُنشئت بواسطة الذكاء الاصطناعي. ولإثبات ذلك، قام فريق من الباحثين في جامعة نورث وسترن بشيكاغو بإنشاء 50 مُلخصاً استناداً إلى تقارير موجودة، ثمّ حلّلوها من حيث الأصالة. وقد منحت برامج كشف الانتحال هذه المقالات درجة أصالة 100%، ما يعني أن المعلومات المُقدّمة تبدو أصلية تماماً. في المقابل، لم تتمكن برامج أخرى مُصممة لكشف النصوص المُولّدة بواسطة الذكاء الاصطناعي إلا من تحديد هذه المقالات بدقة 66%. وقد سجّل الباحثون نسبة خطأ بشري مماثلة، حيث حدّدوا هذه المُلخصات بنسبة 68%. [ 95 ] وبناءً على هذه المعلومات، خلص مؤلفو هذه الدراسة إلى أن "الحدود الأخلاقية والمقبولة لاستخدام ChatGPT في الكتابة العلمية لا تزال غير واضحة، على الرغم من أن بعض الناشرين بدأوا بوضع سياسات في هذا الشأن". [ 96 ] نظرًا لقدرة الذكاء الاصطناعي على تلفيق الأبحاث دون أن يتم اكتشافها، فإن استخدام الذكاء الاصطناعي في مجال البحث سيجعل تحديد أصالة البحث أكثر صعوبة وسيتطلب سياسات جديدة تنظم استخدامه في المستقبل.

نظراً لقدرة اللغة المولدة بالذكاء الاصطناعي على الظهور كبحث علمي حقيقي في بعض الحالات، فإنّ ما يُسمى بـ"هلوسات" الذكاء الاصطناعي يُشكّل تحدياً لتطبيق نماذج اللغة في المجالات الأكاديمية والعلمية، وذلك لقدرتها على التخفي عند عرضها على الباحثين الحقيقيين. وقد يستدعي الاحتمال الكبير لظهور مواد مرجعية غير موجودة ومعلومات خاطئة وضع قيود على هذه النماذج اللغوية. ويرى البعض أن هذه الأحداث أقرب إلى "التلفيق" و"التزييف" منها إلى الهلوسات، وأن استخدام هذه النماذج اللغوية يُهدد نزاهة المجال ككل. [ 97 ]

لاحظ بعض الأكاديميين الذين يدعمون البحث العلمي، مثل أمناء المكتبات الأكاديمية، زيادةً ملحوظةً في أعباء العمل المتعلقة بالتحقق من دقة المراجع. [ 98 ] وذكرت زوي تيل في ورقة بحثية نُشرت عام 2023 أن الجامعات قد تحتاج إلى اللجوء إلى تطبيق نظام تدقيق الاستشهادات الخاص بها لتتبع مشكلة المراجع الوهمية. [ 99 ]

ظهرت بعض العبارات غير الموجودة مثل "المجهر الإلكتروني النباتي" في العديد من الأبحاث نتيجة لتضمينها في بيانات تدريب الذكاء الاصطناعي. [ 100 ]

فوائد

في جامعة واشنطن ، استخدم مختبر ديفيد بيكر تقنيات الذكاء الاصطناعي لتصميم ملايين البروتينات غير الموجودة في الطبيعة، مما أدى إلى تسجيل نحو 100 براءة اختراع وتأسيس أكثر من 20 شركة للتكنولوجيا الحيوية. وقد ساهم هذا العمل في حصول بيكر على جائزة نوبل في الكيمياء لعام 2024 ، على الرغم من أن اللجنة تجنبت استخدام مصطلح "التخيلات". [ 29 ]

في معهد كاليفورنيا للتكنولوجيا ، استخدم الباحثون الهلوسة لتصميم قسطرة تقلل من التلوث البكتيري. يتميز التصميم بوجود نتوءات مسننة على الجدران الداخلية تمنع البكتيريا من الالتصاق، مما قد يقلل من عدد التهابات المسالك البولية. تختلف هذه التطبيقات العلمية للهلوسة اختلافًا جوهريًا عن هلوسات برامج الدردشة الآلية، إذ أنها تستند إلى الواقع المادي والحقائق العلمية بدلًا من اللغة المبهمة أو بيانات الإنترنت. تؤكد أنيما أناندكومار ، الأستاذة في معهد كاليفورنيا للتكنولوجيا، أن نماذج الذكاء الاصطناعي هذه "تُعلَّم الفيزياء" ويجب التحقق من صحة مخرجاتها من خلال اختبارات دقيقة. في علم الأرصاد الجوية، يستخدم العلماء الذكاء الاصطناعي لتوليد آلاف التغيرات الطفيفة في التنبؤات، مما يساعد في تحديد العوامل غير المتوقعة التي يمكن أن تؤثر على الظواهر الجوية المتطرفة. [ 29 ]

في مركز ميموريال سلون كيترينج للسرطان ، قام الباحثون بتطبيق تقنيات الهلوسة لتحسين الصور الطبية الضبابية، بينما استخدمتها جامعة تكساس في أوستن لتحسين أنظمة الملاحة الروبوتية. [ 29 ]

يمكن للهلوسات، عند تقييدها بالمنهجية العلمية، أن تسرع بشكل كبير عملية الاكتشاف. [ 29 ]

العواقب في التعليم

قد تؤثر الهلوسات الناتجة عن الذكاء الاصطناعي على التعليم. فقد ازداد استخدام الطلاب لأدوات الذكاء الاصطناعي للمساعدة في البحث أو الكتابة، مثل Grammarly، أو استخدام برامج الذكاء الاصطناعي التوليدية مثل ChatGPT. وقد أثار هذا الأمر مخاوف بشأن النزاهة الأكاديمية [ 101 ] في المشاريع المقدمة، بالإضافة إلى احتمال تسبب الهلوسات في تلقي الطلاب معلومات خاطئة.

يكمن جزء من هذا القلق في المراجع التي تقدمها برامج الماجستير في القانون والذكاء الاصطناعي التوليدي. فقد وجدت دراسة أجريت عام 2024 في جامعة ميسيسيبي أن العديد من هذه المراجع التي قدمها الطلاب كانت ملفقة جزئيًا أو كليًا. إذ احتوت 47% من هذه المصادر على عناوين أو تواريخ أو مؤلفين غير صحيحة، أو مزيج من كل ذلك. [ 102 ] وتشير الدراسة إلى أن هذه التناقضات في المراجع التي يقدمها الطلاب تدفع المعلمين وأمناء المكتبات إلى التحقق من دقتها يدويًا بشكل متكرر.

تتناول مجلة جراحة الجمجمة والوجه والفكين هذا الخطر في المجالين الطبي والجراحي. وتشير إلى اعتراف دور النشر الأكاديمية بهذه المشكلة، وإلى أن بعض المجلات، مثل مجلة الجمعية الطبية الأمريكية (JAMA)، قد عدّلت بعض سياساتها للحد من استخدام الاستشهادات المُولّدة بواسطة الذكاء الاصطناعي. [ 103 ] ورغم أن المجلة تؤكد أن السياسة وحدها لن تكفي للحد من استخدام هذه الاستشهادات، إلا أنه ينبغي أيضاً اعتماد أدوات آلية للتحقق منها، بالإضافة إلى برامج تدريبية على استخدام الذكاء الاصطناعي.

قد يستخدم المدرسون أدوات مثل Turnitin للتحقق من الانتحال والتأكد من النزاهة الأكاديمية. وقد وُجد أن هذه الأدوات تُشير أحيانًا إلى أوراق بحثية لم تستخدم أي مساعدة من الذكاء الاصطناعي في كتابتها. [ 104 ] كما وجدت شركة OpenAI أن برنامجها الخاص بالكشف عن الانتحال بالذكاء الاصطناعي يعاني من قصور كبير في الدقة، ما دفعها إلى إيقافه نهائيًا. [ 105 ]

أساليب التخفيف

حتى عام 2025، لا تزال الأبحاث جارية لمحاولة الحد من حدوث الهلوسة. [ 106 ] وقد أظهرت الأبحاث التي أُجريت عام 2022 أن نماذج اللغة لا تُسبب الهلوسة فحسب، بل تُضخّمها أيضًا، حتى بالنسبة لتلك التي صُممت للتخفيف من هذه المشكلة. [ 107 ] وكتب باحثون من OpenAI أن الهلوسة تحدث لأن تدريب وتقييم نماذج اللغة يُكافئ التخمين على الاعتراف بعدم اليقين، واقترحوا تعديل معايير التقييم. [ 37 ]

اقترح الباحثون مجموعة متنوعة من تدابير التخفيف، بما في ذلك جعل روبوتات الدردشة المختلفة تتناقش فيما بينها حتى تتوصل إلى توافق في الآراء بشأن إجابة [ 108 ] ، وهياكل عصبية رمزية مزودة بقواعد معرفية رسمية ومحركات استدلال . [ 11 ] [ 109 ] [ 110 ]

يقسم جي وزملاؤه أساليب التخفيف الشائعة إلى فئتين: أساليب متعلقة بالبيانات وأساليب النمذجة والاستدلال . تشمل الأساليب المتعلقة بالبيانات بناء مجموعة بيانات دقيقة، وتنظيف البيانات تلقائيًا، وتوسيع المعلومات عن طريق إضافة معلومات خارجية إلى المدخلات. أما أساليب النمذجة والاستدلال فتشمل تغييرات في البنية (سواء بتعديل المُشفِّر أو آلية الانتباه أو المُفكِّك بطرق مختلفة)؛ وتغييرات في عملية التدريب، مثل استخدام التعلّم المعزز ؛ وأساليب المعالجة اللاحقة التي يمكنها تصحيح التشوهات في المخرجات. [ 111 ]

تتيح تقنية Nvidia Guardrails، التي أُطلقت عام 2023، إمكانية برمجة استجابات محددة مسبقًا عبر البرمجة النصية بدلًا من تركها لنموذج اللغة. [ 112 ] علاوة على ذلك، تم تطوير أدوات مثل نموذج اللغة الموثوق به للمساعدة في الكشف عن الهلوسة. [ 113 ]

قد يُخفف تقييم عدة إجابات محتملة قبل الإجابة على استفسار ما، من خلال إسناد درجات ثقة لكل منها، من حدة المشكلة. إلا أن هذا النهج سيضاعف التكاليف الحسابية. كما أن التعلم النشط سيزيد هذه التكاليف. في المجالات الحساسة، مثل تصميم الرقائق الإلكترونية، ولوجستيات سلاسل التوريد، والتشخيص الطبي، ستكون التكاليف الإضافية ضرورية لتشغيل نماذج التعلم الموجه. أما في روبوتات المحادثة، فيميل العملاء إلى تفضيل الإجابات السريعة والواثقة على الإجابات الحذرة والمتفهمة للغموض. [ 114 ]

انظر أيضاً

مراجع

  1. 1 2 هيكس، مايكل تاونسن؛ همفريز، جيمس؛ سلاتر، جو (يونيو 2024). "ChatGPT هراء" (ملف PDF) . الأخلاقيات وتكنولوجيا المعلومات . 26 (2) 38. doi : 10.1007/s10676-024-09775-5 . مؤرشف (ملف PDF) من الأصل في 13 مايو 2025. تم الاسترجاع في 23 مايو 2025 .
  2. ↑ ليانغ، كاي كو؛ هو، هايمين؛ تشاو، شوان دونغ؛ سونغ، دون؛ غريفيث، توماس ل.؛ فرنانديز فيساك، خايمي (2025). "هراء الآلة: توصيف التجاهل الناشئ للحقيقة في نماذج اللغة الكبيرة". arXiv : 2507.07484 [ cs.CL ].
  3. 1 2 إدواردز، بنج (6 أبريل 2023). "لماذا يجيد ChatGPT وBing Chat اختلاق الأشياء؟" . آرس تكنيكا . مؤرشف من الأصل في 11 يونيو 2023. تم الاسترجاع في 11 يونيو 2023 .
  4. ^ أورتيجا ، بيدرو أ. كونيش، ماركوس. ديليتانج، جريجوار؛ جينيوين، تيم؛ جراو مويا، جوردي؛ فينيس، جويل. بوشلي، جوناس؛ ديغريف، جوناس. بيوت، بلال؛ بيرولات، جوليان. إيفريت، توم؛ تاليك، كورنتين. باريسوتو، إميليو؛ إيريز، توم؛ تشن، يوتيان. ريد، سكوت؛ هوتر، ماركوس. ناندو دي فريتاس؛ ليج ، شين (2021). اهتزاز الأسس: أوهام في نماذج التسلسل للتفاعل والتحكم (طبعة ما قبل الطباعة) أرخايف : 2110.10819 .
  5. ↑ ماينز، جوشوا؛ نارايان، شاشي؛ بونيت، بيرند؛ ماكدونالد، رايان (2020). "حول الأمانة والواقعية في التلخيص التجريدي". وقائع الاجتماع السنوي الثامن والخمسين لجمعية اللغويات الحاسوبية . ص 1906-1919 . doi : 10.18653/v1/2020.acl-main.173 . 
  6. ↑ ميتز، كيد (6 نوفمبر 2023). "قد تُصاب برامج الدردشة الآلية بالهلوسة أكثر مما يدركه الكثيرون" . صحيفة نيويورك تايمز . مؤرشف من الأصل في 7 ديسمبر 2023. تم الاطلاع عليه في 6 نوفمبر 2023 .
  7. ↑ دي وينتر، أدريان؛ وانغ، شون؛ سوكولوف، أليكس؛ غو، تشيلونغ؛ تشين، سي-تشينغ (سبتمبر 2023). "تقييم لمخرجات نماذج اللغة الكبيرة: الخطاب والحفظ" . مجلة معالجة اللغة الطبيعية . 4 100024. arXiv : 2304.08637 . doi : 10.1016/j.nlp.2023.100024 .
  8. 1 2 3 ليسوينغ، كيف (14 فبراير 2023). "ارتكب محرك بحث بينغ للذكاء الاصطناعي التابع لمايكروسوفت عدة أخطاء واقعية في العرض التوضيحي لإطلاقه الأسبوع الماضي" . سي إن بي سي . مؤرشف من الأصل في 16 فبراير 2023. تم الاطلاع عليه في 16 فبراير 2023 .
  9. 1 2 كانغ، إيونسوك؛ شو، ماري (2024). "باختصار: اهدأوا يا جماعة: الذكاء الاصطناعي لن يلتهم هندسة البرمجيات". وقائع ندوة ACM SIGPLAN الدولية لعام 2024 حول الأفكار الجديدة، والنماذج الجديدة، والتأملات في البرمجة والبرمجيات . الصفحات 303-315 . arXiv : 2409.00764 . doi : 10.1145/3689492.3689816 . ISBN  979-8-4007-1215-9.
  10. 1 2 ديساي، راجيف (13 أكتوبر 2023). "هل يُمثل الذكاء الاصطناعي تهديدًا وجوديًا؟ - د. راجيف ديساي" . مؤرشف من الأصل في 11 يناير 2026. تم الاطلاع عليه في 25 نوفمبر 2025 .
  11. 1 2 غارسيز، آرثر (30 مايو 2025). فاس، ستيفن (محرر). "الذكاء الاصطناعي العصبي الرمزي هو الحل لعجز نماذج اللغة الكبيرة عن التوقف عن الهلوسة". ذا كونفرسيشن . doi : 10.64628/AB.5gpku36ct .
  12. 1 2 3 مالكي، نيجار؛ بادمانابهان، بالاجي؛ دوتا، كوشيك (2024). "هلوسات الذكاء الاصطناعي: تسمية خاطئة تستحق التوضيح". مؤتمر IEEE للذكاء الاصطناعي (CAI) لعام 2024. الصفحات 133-138 . arXiv : 2401.06796 . doi : 10.1109/CAI59869.2024.00033 . ISBN  979-8-3503-5409-6.
  13. ↑ ليو، سي؛ شوم، هيونغ-يونغ؛ فريمان، ويليام تي. (18 يوليو 2007). "هلوسة الوجه: النظرية والتطبيق". المجلة الدولية لرؤية الحاسوب . 75 (1): 115-134 . Bibcode : 2007IJCV...75..115L . doi : 10.1007/s11263-006-0029-5 . ProQuest 1113669475 . 
  14. ↑ نصر اللهي، كمال؛ موسلوند، توماس ب. (2014). "الدقة الفائقة: دراسة شاملة" . تطبيقات رؤية الآلة . 25 (6): 1423-1468 . doi : 10.1007/s00138-014-0623-4 . ISSN 0932-8092 . 
  15. ↑ "وجوه مُهلوسة" . معهد الروبوتات، جامعة كارنيجي ميلون . 1999. مؤرشف من الأصل في 7 يناير 2026. تم الاطلاع عليه في 29 نوفمبر 2025 .
  16. ↑ يونغغانغ دينغ؛ بيرن، و. (2008). "محاذاة الكلمات والعبارات باستخدام نموذج ماركوف المخفي للترجمة الآلية الإحصائية". معاملات IEEE في معالجة الصوت والكلام واللغة . 16 (3): 494-507 . رمز Bibcode : 2008ITASL..16..494D . doi : 10.1109/TASL.2008.916056 . ISSN 1558-7916 . 
  17. ↑ غوبتا، سوراب؛ مالك، جيتندرا (17 مايو 2015)، تصنيف الأدوار الدلالية البصرية ، arXiv : 1505.04474
  18. ↑ كارباثي، أندريه (21 مايو 2015). "الفعالية غير المعقولة للشبكات العصبية المتكررة" . أندريه كارباثي . مؤرشف من الأصل في 1 نوفمبر 2020. تم الاطلاع عليه في 24 ديسمبر 2025 .
  19. ↑ "الهلوسات في الترجمة الآلية العصبية" . research.google . مؤرشف من الأصل في 2 أبريل 2024. تم الاطلاع عليه في 2 أبريل 2024 .
  20. 1 2 سيمونايت، توم (9 مارس 2018). "الذكاء الاصطناعي يعاني من مشكلة هلوسة يصعب حلها" . وايرد . كوندي ناست . مؤرشف من الأصل في 5 أبريل 2023. تم الاطلاع عليه في 29 ديسمبر 2022 .
  21. ↑ "Blender Bot 2.0: روبوت محادثة مفتوح المصدر يبني ذاكرة طويلة المدى ويبحث في الإنترنت" . ai.meta.com . مؤرشف من الأصل بتاريخ 23 فبراير 2024. تم الاطلاع عليه بتاريخ 2 مارس 2024 .
  22. ↑ تونغ، ليام (8 أغسطس 2022). "ميتا تحذر من أن برنامج الدردشة الآلي الجديد قد ينسى أنه برنامج آلي" . زد نت . مؤرشف من الأصل في 26 مارس 2023. تم الاطلاع عليه في 30 ديسمبر 2022 .
  23. ↑ سيف، تشارلز (13 ديسمبر 2022). "الخداع المقلق في قلب روبوت محادثة جديد مذهل" . سلات . مؤرشف من الأصل في 26 مارس 2023. تم الاسترجاع في 16 فبراير 2023 .
  24. ↑ وايز، كارين؛ ميتز، كيد (1 مايو 2023). "عندما تُصاب روبوتات الدردشة المدعومة بالذكاء الاصطناعي بالهلوسة" . صحيفة نيويورك تايمز . مؤرشف من الأصل في 4 أبريل 2024. تم الاطلاع عليه في 8 مايو 2023 .
  25. ↑ كريمر، إيلا (15 نوفمبر 2023). ""اختيرت كلمة 'هلوسة' ككلمة العام في قاموس كامبريدج" . صحيفة الغارديان . تاريخ الاطلاع: 7 يونيو 2024 .
  26. ↑ "تم تقديم خواكين كوريا في بوتافوغو للعب في مونديال الأندية وخوض رحلة مجنونة مع صحفي: "No es mi Hermano""" كلارين . 14 يونيو 2025. مؤرشف من الأصل في 2 يوليو 2025. تم الاسترجاع في 10 أغسطس 2025. "
  27. 1 2 3 فيلد، هايدن (31 مايو 2023). "تسعى OpenAI إلى اتباع طريقة جديدة لمكافحة "الهلوسات" في الذكاء الاصطناعي"" . سي إن بي سي . مؤرشف من الأصل في 10 يونيو 2023. تم الاطلاع عليه في 11 يونيو 2023 .
  28. ↑ فينسنت، جيمس (8 فبراير 2023). "روبوت الدردشة الذكي بارد من جوجل يرتكب خطأً واقعيًا في أول عرض تجريبي" . ذا فيرج . مؤرشف من الأصل في 12 فبراير 2023. تم الاطلاع عليه في 11 يونيو 2023 .
  29. 1 2 3 4 5 6 7 برود، ويليام ج. (23 ديسمبر 2024). "كيف يساعد الذكاء الاصطناعي التخيلي العلم على ابتكار اختراقات كبيرة" . صحيفة نيويورك تايمز . مؤرشف من الأصل في 24 ديسمبر 2024. تم الاسترجاع في 24 ديسمبر 2024 .
  30. ↑ هانيجان، تيموثي ر.؛ مكارثي، إيان ب.؛ سبايسر، أندريه (2024). "احذر من برامج الدردشة الآلية: كيفية إدارة المخاطر المعرفية لبرامج الدردشة الآلية التوليدية". مجلة آفاق الأعمال . doi : 10.1016/j.bushor.2024.03.001 .
  31. ↑ ستينينغ، تانر (10 نوفمبر 2023). "ماذا تفعل روبوتات الدردشة المدعومة بالذكاء الاصطناعي تحديدًا عندما 'تهلوس'؟ إليكم سبب عدم تفضيل الخبراء لهذا المصطلح" . نورث إيسترن غلوبال نيوز . مؤرشف من الأصل في 14 يونيو 2024. تم الاطلاع عليه في 14 يونيو 2024 .
  32. ↑ شاناهان، موراي (2024). "الحديث عن نماذج اللغة الكبيرة" . اتصالات رابطة الحوسبة الآلية . 67 (2): 68-79 . doi : 10.1145/3624724 .
  33. ↑ شيكرست، كريستينا (2025). محرك الوهم: البحث عن وعي الآلة . سبرينغر نيتشر سويسرا. doi : 10.1007/978-3-032-05562-0 .
  34. ↑ فورستر، سوزان؛ سكوب، ياردن (2025). "بين الحقيقة والخيال: تتبع استعارة الهلوسة في خطاب الذكاء الاصطناعي" . الذكاء الاصطناعي والمجتمع . doi : 10.1007/s00146-025-02392-w .
  35. ↑ باراسي، فيرونيكا (2024). "نحو نظرية لأخطاء الذكاء الاصطناعي: فهم الهلوسات، والإخفاقات الكارثية، ومغالطة الذكاء الاصطناعي التوليدي" . مجلة هارفارد لعلوم البيانات . 5. Bibcode : 2024HDSRv...5ebbd4B . doi : 10.1162/99608f92.ad8ebbd4 . مؤرشف من الأصل في 14 أغسطس 2025. تم الاطلاع عليه في 26 يوليو 2025 .
  36. ↑ آرونسون، سوزان آرييل (2024). مقدمة: ما الذي أحدثه الذكاء الاصطناعي التوليدي؟ (تقرير). مركز الابتكار في الحوكمة الدولية. الصفحات 1-4 . مؤرشف من الأصل في 22 نوفمبر 2025. تم الاطلاع عليه في 26 أكتوبر 2025 . 
  37. 1 2 فاراناسي، لاكشمي. "لماذا تُصاب روبوتات الدردشة المدعومة بالذكاء الاصطناعي بالهلوسة، وفقًا لباحثي OpenAI" . بزنس إنسايدر . مؤرشف من الأصل في 24 سبتمبر 2025. تم الاطلاع عليه في 28 سبتمبر 2025 .
  38. ↑ أمابيل، تيريزا م.؛ برات، مايكل ج. (2016). "النموذج الديناميكي المكوني للإبداع والابتكار في المنظمات: إحراز التقدم، وصنع المعنى". بحث في السلوك التنظيمي . 36 : 157-183 . doi : 10.1016/j.riob.2016.10.001 .
  39. ↑ موخيرجي، أنيربان؛ تشانغ، هانا هـ. (2023). "إدارة الحدود الإبداعية للذكاء الاصطناعي التوليدي: المفاضلة بين الجدة والفائدة" . مجلة كاليفورنيا للإدارة . مؤرشف من الأصل في 5 يناير 2024. تم الاسترجاع في 5 يناير 2024 .
  40. ↑ ميتز، كيد (10 ديسمبر 2022). "قد تُغير برامج الدردشة الآلية الجديدة العالم. هل يُمكن الوثوق بها؟" . صحيفة نيويورك تايمز . مؤرشف من الأصل في 17 يناير 2023. تم الاطلاع عليه في 30 ديسمبر 2022 .
  41. ↑ نونيز، مايكل (27 مارس 2025). "علماء الأنثروبولوجيا يكشفون كيف يفكر الذكاء الاصطناعي فعليًا - ويكتشفون أنه يخطط سرًا للمستقبل ويكذب أحيانًا" . فينشر بيت . مؤرشف من الأصل في 28 مارس 2025. تم الاطلاع عليه في 30 مارس 2025 .
  42. ^ تايلور ، روس. كارداس، مارسين؛ كوكيورول، غيليم؛ سكيلوم، توماس. هارتشورن، أنتوني؛ سارافيا، الفيس؛ بولتون، أندرو؛ كيركيز، فيكتور؛ روبرت ستوينيك (16 نوفمبر 2022). “Galactica: نموذج لغة كبير للعلوم”. أرخايف : 2211.09085 [ cs.CL ].
  43. ↑ إدواردز، بنج (18 نوفمبر 2022). "عرض تجريبي جديد للذكاء الاصطناعي الميتا يكتب أدبيات علمية عنصرية وغير دقيقة، ويتم سحبه" . آرس تكنيكا . مؤرشف من الأصل في 10 أبريل 2023. تم الاطلاع عليه في 30 ديسمبر 2022 .
  44. ↑ بومان، إيما (19 ديسمبر 2022). "قد يقوم برنامج دردشة جديد يعمل بالذكاء الاصطناعي بإنجاز واجباتك المدرسية، لكنه لا يزال ليس طالبًا متفوقًا" . NPR . مؤرشف من الأصل في 20 يناير 2023. تم الاطلاع عليه في 29 ديسمبر 2022 .
  45. ↑ بيت، صوفيا (15 ديسمبر 2022). "جوجل مقابل ChatGPT: إليكم ما حدث عندما بدّلتُ الخدمات ليوم واحد" . سي إن بي سي . مؤرشف من الأصل في 16 يناير 2023. تم الاطلاع عليه في 30 ديسمبر 2022 .
  46. ↑ هويزينغا، رايتشل (30 ديسمبر 2022). "طرحنا أسئلة على نظام ذكاء اصطناعي حول نيو برونزويك. قد تُفاجئك بعض الإجابات" . سي بي سي نيوز . مؤرشف من الأصل في 6 يناير 2023. تم الاطلاع عليه في 30 ديسمبر 2022 .
  47. ↑ زاسترو، مارك (30 ديسمبر 2022). "طرحنا على ChatGPT أسئلتكم حول علم الفلك. لم تكن النتيجة جيدة" . ديسكفر . مؤرشف من الأصل في 26 مارس 2023. تم الاطلاع عليه في 31 ديسمبر 2022 .
  48. ↑ لين، كوني (5 ديسمبر 2022). "كيفية خداع برنامج ChatGPT الجديد والعبقري من OpenAI بسهولة" . فاست كومباني . مؤرشف من الأصل في 29 مارس 2023. تم الاطلاع عليه في 6 يناير 2023 .
  49. ↑ إدواردز، بنج (1 ديسمبر 2022). "OpenAI تدعو الجميع لتجربة ChatGPT، وهو روبوت محادثة جديد يعمل بالذكاء الاصطناعي - بنتائج طريفة" . آرس تكنيكا . مؤرشف من الأصل في 15 مارس 2023. تم الاطلاع عليه في 29 ديسمبر 2022 .
  50. ↑ موليك، إيثان (14 ديسمبر 2022). "ChatGPT نقطة تحول في مجال الذكاء الاصطناعي" . مجلة هارفارد بزنس ريفيو . مؤرشف من الأصل في 11 أبريل 2023. تم الاطلاع عليه في 29 ديسمبر 2022 .
  51. ↑ كانترويتز، أليكس (2 ديسمبر 2022). "أخيرًا، روبوت محادثة يعمل بالذكاء الاصطناعي يجتاز "اختبار النازي" بنجاح"" . Slate . مؤرشف من الأصل في 17 يناير 2023. تم الاسترجاع في 29 ديسمبر 2022 .
  52. ↑ ماركوس، غاري (2 ديسمبر 2022). "كيف يبدو GPT عبقريًا في لحظة، وغبيًا بشكلٍ مذهل في اللحظة التالية؟" . الطريق إلى الذكاء الاصطناعي الذي يمكننا الوثوق به . سبستاك . مؤرشف من الأصل في 30 ديسمبر 2022. تم الاسترجاع في 29 ديسمبر 2022 .
  53. ↑ «تقرير: جوجل تحذر من أن روبوتات الدردشة "تُسبب الهلوسة"» . رويترز. ١١ فبراير ٢٠٢٣. مؤرشف من الأصل في ٦ أبريل ٢٠٢٣. تم الاطلاع عليه في ١٦ فبراير ٢٠٢٣ .
  54. ↑ بيلانجر، آشلي (9 يونيو 2023). "تواجه OpenAI دعوى تشهير بعد أن فبرك ChatGPT دعوى قضائية أخرى بالكامل" . آرس تكنيكا . مؤرشف من الأصل في 1 يوليو 2023. تم الاسترجاع في 1 يوليو 2023 .
  55. ↑ سكارسيلا، مايك (19 مايو 2025). "OpenAI تهزم دعوى قضائية رفعها مذيع راديو بشأن مزاعم اختلقها ChatGPT" . رويترز . تم الاطلاع عليه بتاريخ 23 أغسطس 2025 .
  56. ↑ بيلانجر، آشلي (16 فبراير 2024). "يجب على الخطوط الجوية الكندية الالتزام بسياسة استرداد الأموال التي ابتكرها برنامج الدردشة الآلي الخاص بها" . آرس تكنيكا . مؤرشف من الأصل في 22 أبريل 2025. تم الاطلاع عليه في 22 أبريل 2025 .
  57. ↑ «الخطوط الجوية الكندية مسؤولة عن أخطاء روبوت الدردشة على موقعها الإلكتروني بعد رفض خصم بأثر رجعي لعميل من مقاطعة كولومبيا البريطانية» . صحيفة فانكوفر صن . مؤرشف من الأصل بتاريخ ١٢ مارس ٢٠٢٥. تم الاطلاع عليه بتاريخ ٢٢ أبريل ٢٠٢٥ .
  58. ^ تادرس ، إدموند (6 أكتوبر 2025). ""استرداد كامل المبلغ": عضو مجلس الشيوخ ينتقد "مشكلة الذكاء البشري" في شركة ديلويت" . Australian Financial Review . تم الاطلاع عليه بتاريخ 12 أكتوبر 2025 .
  59. ↑ تادروس، إدموند؛ كارب، بول (5 أكتوبر 2025). "ديلويت ترد أموالاً للحكومة، وتعترف باستخدام الذكاء الاصطناعي في تقرير بقيمة 440 ألف دولار" . صحيفة "أستراليان فاينانشيال ريفيو ". مؤرشف من الأصل في 11 أكتوبر 2025. تم الاطلاع عليه في 12 أكتوبر 2025 .
  60. ↑ بريك، جاستن (22 نوفمبر 2025). "تقرير هام عن الرعاية الصحية في هولندا يحتوي على أخطاء يُحتمل أن تكون ناتجة عن الذكاء الاصطناعي" . صحيفة الإندبندنت . مؤرشف من الأصل في 6 ديسمبر 2025. تم الاطلاع عليه في 4 ديسمبر 2025 .
  61. ↑ ويتن، إليزابيث (24 نوفمبر 2025). "نيوفاوندلاند ولابرادور تطلب من شركة ديلويت إجراء مراجعة بعد العثور على اقتباسات "غير صحيحة" في خطة صحية إقليمية بقيمة 1.6 مليون دولار" . سي بي سي نيوز . تم الاطلاع عليه في 4 ديسمبر 2025 .
  62. ↑ فيري، سي.؛ كايزر، إس. (2019). الشبكات العصبية للأطفال . نابرفيل، إلينوي: سورس بوكس ​​جابرووكي. ISBN 978-1-4926-7120-6. OCLC 1086346753 . 
  63. ↑ ماتساكيس، لويز (8 مايو 2019). "قد لا يكون الذكاء الاصطناعي 'مُخْوِسًا' في نهاية المطاف" . وايرد . مؤرشف من الأصل في 26 مارس 2023. تم الاطلاع عليه في 29 ديسمبر 2022 .
  64. 1 2 جيلمر، جاستن؛ هندريكس، دان (6 أغسطس 2019). "مناقشة حول "الأمثلة الخصومية ليست أخطاء، بل هي ميزات": يحتاج باحثو الأمثلة الخصومية إلى توسيع مفهوم "المتانة"" . Distill . 4 (8). doi : 10.23915/distill.00019.1 .
  65. ↑ روبرتسون، آدي (21 فبراير 2024). "جوجل تعتذر عن "الخطأ" بعد أن أنتج مشروع جيميني نازيين من أعراق متنوعة" . ذا فيرج . مؤرشف من الأصل في 21 فبراير 2024. تم الاطلاع عليه في 14 أغسطس 2024 .
  66. ↑ "أخطأت تقنية توليد الصور في مشروع جيميني. سنقدم أداءً أفضل" . جوجل . ٢٣ فبراير ٢٠٢٤. مؤرشف من الأصل في ٢١ أبريل ٢٠٢٤. تم الاطلاع عليه في ١٤ أغسطس ٢٠٢٤ .
  67. ↑ لوثر، كورت (2025). "دليل لاستكشاف التحري عن طريق الصور والذكاء الاصطناعي التوليدي" . صور عسكرية . 43 (4 (234)): 8-11 . ISSN 1040-4961 . JSTOR 27404321. مؤرشف من الأصل في 29 يناير 2026. تم الاسترجاع في 23 نوفمبر 2025 .  
  68. ↑ ليشتنبرغ، نيك. "حتى مع ظهور الهلوسات في الملفات القانونية، تستثمر شركات المحاماة الكبرى بكثافة في الذكاء الاصطناعي مع إصدار جديد من شركة أنثروبيك" . مجلة فورتشن . تم الاطلاع عليه بتاريخ 12 مايو 2026 .
  69. ↑ ميركن، سارة (18 فبراير 2025). "هلوسات الذكاء الاصطناعي في أوراق المحكمة تُنذر بمتاعب للمحامين" . رويترز . تم الاطلاع عليه بتاريخ 21 أبريل 2026 .
  70. 1 2 سكارسيلا، مايك (28 أبريل 2026). "قاضٍ يوبخ مدعيًا عامًا أمريكيًا فقد وظيفته بسبب أخطاء ناتجة عن الذكاء الاصطناعي" . رويترز . تم الاطلاع عليه بتاريخ 29 أبريل 2026 .
  71. ↑ "حالات الهلوسة الناتجة عن الذكاء الاصطناعي" . damiencharlotin.com . داميان شارلوتين . تم الاطلاع عليه بتاريخ 21 أبريل 2026 .
  72. ↑ غورليك، إيفان (7 نوفمبر 2025). "محامون متطوعون يكشفون عن تزايد هراء الذكاء الاصطناعي في ملفات المحاكم" . صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاطلاع: 12 مايو 2026 . 
  73. ↑ معروف، راميشاه (27 مايو 2023). "محامٍ يعتذر عن تزوير مذكرات قضائية من موقع ChatGPT" . سي إن إن بيزنس. مؤرشف من الأصل في 9 يونيو 2023. تم الاطلاع عليه في 26 يونيو 2023 .
  74. ↑ برودكين، جون (31 مايو 2023). "قاضٍ فيدرالي: لا للذكاء الاصطناعي في قاعة محكمتي إلا بعد التحقق من دقته بواسطة إنسان" . آرس تكنيكا . مؤرشف من الأصل في 26 يونيو 2023. تم الاطلاع عليه في 26 يونيو 2023 .
  75. ↑ "القاضي برانتلي ستار" . المنطقة الشمالية من تكساس | محكمة الولايات المتحدة الجزئية. مؤرشف من الأصل في 26 يونيو 2023. تم الاسترجاع في 26 يونيو 2023 .
  76. ↑ برودكين، جون (23 يونيو 2023). "يوم عصيب للمحامين في المحكمة بعد الاستشهاد بقضايا ملفقة من قِبل ChatGPT" . آرس تكنيكا . مؤرشف من الأصل في 26 يناير 2024. تم الاطلاع عليه في 26 يونيو 2023 .
  77. ↑ "Gjovik v. Apple Inc" . الحوكمة القانونية للذكاء الاصطناعي . تم الاطلاع عليه بتاريخ 12 مايو 2026 .
  78. ↑ ماكيني، كليف (8 مارس 2026). "أخلاقيات الذكاء الاصطناعي للمحامين: المقاومة عبثية: الصراحة والإشراف والرسوم" . ملاحظات قانون أركنساس . doi : 10.54119/aln.hyke3821 .
  79. ↑ سكارسيلا، مايك (1 مايو 2026). "قاضٍ أمريكي يقول إن كبار المحامين يجب أن يدفعوا ثمن أخطاء مرؤوسيهم الذين يستخدمون أدوات الذكاء الاصطناعي" . رويترز . تم الاطلاع عليه في 1 مايو 2026 .
  80. ↑ دارنيل، تيم (30 مارس 2026). "محامٍ في مكتب المدعي العام لمقاطعة كلايتون يعتذر عن استخدام الذكاء الاصطناعي، مستشهداً بقضايا ملفقة في مذكرة المحكمة" . أتلانتا نيوز فيرست . تم الاطلاع عليه في 20 مايو 2026 .
  81. ↑ ديرينزو، روب (2 أبريل 2026). "معاقبة مدعي عام كلايتون لاستخدامه الذكاء الاصطناعي في ملفات المحكمة، مستشهداً بقضايا ملفقة" . فوكس 5 أتلانتا . تم الاطلاع عليه بتاريخ 20 مايو 2026 .
  82. ↑ سكارسيلا، مايك (5 مايو 2026). "أخطاء الذكاء الاصطناعي في قضية قتل بالولايات المتحدة تؤدي إلى تأديب المدعي العام في جورجيا" . رويترز . تم الاطلاع عليه بتاريخ 20 مايو 2026 .
  83. ↑ فيرفيلد، كارين؛ سكارسيلا، مايك (21 أبريل 2026). "مكتب المحاماة سوليفان وكرومويل يعتذر عن "هلوسات" الذكاء الاصطناعي في ملف المحكمة" . رويترز . تم الاطلاع عليه بتاريخ 21 أبريل 2026 .
  84. ↑ إنداب، سوجيت؛ ويغنز، كاي (21 أبريل 2026). "شركة المحاماة المرموقة سوليفان وكرومويل تعترف بـ'هلوسة' الذكاء الاصطناعي"" . فايننشال تايمز . تم الاطلاع عليه بتاريخ 21 أبريل 2026 .
  85. ↑ بن، بن (28 أبريل 2026). "المحكمة توبخ محامياً مفصولاً من وزارة العدل بسبب ملفات الذكاء الاصطناعي "البغيضة" والمضللة" . بلومبيرغ لو . تم الاطلاع عليه في 29 أبريل 2026 .
  86. ↑ "قاعدة بيانات حالات الهلوسة الناتجة عن الذكاء الاصطناعي في كندا" . courtready.ca . تم الاطلاع عليها بتاريخ 14 يونيو 2026 .
  87. ↑ "قاعدة بيانات حالات الهلوسة الناتجة عن الذكاء الاصطناعي - داميان شارلوتين" . www.damiencharlotin.com . تاريخ الوصول: 14 يونيو 2026 .
  88. ↑ تشنغ، توم ماكنتوش (14 أبريل 2026). "صعود السوابق القضائية المتأثرة بالذكاء الاصطناعي في المحاكم والهيئات القضائية الكندية" . معهد المعلومات القانونية الكندي .
  89. ↑ «قاضٍ بارز يدعم مشروع الأردن الضخم، ويحذر نقابة المحامين من تقديم سوابق قضائية مزيفة مُولّدة بواسطة الذكاء الاصطناعي في المحكمة» . Law360 Canada . 10 يونيو 2026. تاريخ الاطلاع: 14 يونيو 2026 .
  90. ^ أثالوري، ساي أنيروده؛ مانتينا، سانديب فارما؛ كيسابراجادا، VSR كريشنا مانوج؛ يارلاجادا، فينيل؛ ديف تيرث. دودومبودي، راما تولاسي سيري (11 أبريل 2023). "استكشاف حدود الواقع: التحقيق في ظاهرة هلوسة الذكاء الاصطناعي في الكتابة العلمية من خلال مراجع ChatGPT" . كيوريوس . 15 (4)هـ37432. دوى : 10.7759/cureus.37432 . بمك 10173677 . بميد 37182055 .  
  91. 1 2 غودارد، جيروم (نوفمبر 2023). "الهلوسة في ChatGPT: قصة تحذيرية للباحثين في مجال الطب الحيوي". المجلة الأمريكية للطب . 136 (11): 1059-1060 . doi : 10.1016/j.amjmed.2023.06.012 . PMID 37369274 . 
  92. ↑ جي، زيوي؛ يو، تيتشنغ؛ شو، يان؛ لي، نايون؛ إيشي، إيتسوكو؛ فونغ، باسكال (2023). "نحو تخفيف الهلوسة اللغوية من خلال التأمل الذاتي". نتائج مؤتمر رابطة اللغويات الحاسوبية: EMNLP 2023. الصفحات 1827-1843 . doi : 10.18653/v1/2023.findings-emnlp.123 . 
  93. ↑ شيك، نينا (2023). " التظاهر: قد يكون اجتياز العصر الجديد للذكاء الاصطناعي التوليدي التحدي الأكبر للديمقراطية حتى الآن" . مجلة RSA . 169 (2(5593)): 40-43 . ISSN 0958-0433 . JSTOR 48737215. مؤرشف من الأصل في 4 يناير 2026. تم الاطلاع عليه في 23 نوفمبر 2025 .  
  94. ↑ بهاتاشاريا، ميهول؛ ميلر، فاليري م؛ بهاتاشاريا، ديبجاني؛ ميلر، لاري إي (19 مايو 2023). " معدلات عالية من المراجع الملفقة وغير الدقيقة في المحتوى الطبي المُنشأ بواسطة ChatGPT" . كيوريوس . 15 (5) e39238. doi : 10.7759/cureus.39238 . PMC 10277170. PMID 37337480 .  
  95. ↑ إلس، هولي (19 يناير 2023). "ملخصات كتبها برنامج ChatGPT تخدع العلماء". مجلة نيتشر . 613 (7944): 423. Bibcode : 2023Natur.613..423E . doi : 10.1038/d41586-023-00056-7 . PMID 36635510 . 
  96. ↑ غاو، كاثرين أ.؛ هوارد، فريدريك م.؛ ماركوف، نيكولاي س.؛ داير، إيما س.؛ راميش، سيدهي؛ لو، يوان؛ بيرسون، ألكسندر ت. (26 أبريل 2023). "مقارنة الملخصات العلمية المُولَّدة بواسطة ChatGPT بالملخصات الحقيقية باستخدام كاشفات ومراجعين بشريين غير مُطَّلعين على هوية المُلخصات" . npj Digital Medicine . 6 (1): 75. doi : 10.1038/s41746-023-00819-6 . PMC 10133283. PMID 37100871 .  
  97. ↑ إمسلي، روبن (19 أغسطس 2023). " ChatGPT: هذه ليست هلوسات - إنها تلفيقات وتزييفات" . الفصام . 9 (1) 52. doi : 10.1038/s41537-023-00379-4 . PMC 10439949. PMID 37598184 .  
  98. ↑ جيراي، لوي (2 يناير 2024). "الكشف عن مراجع ChatGPT: التمييز بين الموثوق والمزيف" . مجلة خدمات المراجع على الإنترنت الفصلية . 28 (1): 9-18 . doi : 10.1080/10875301.2023.2265369 . ISSN 1087-5301 . مؤرشف من الأصل في 22 يوليو 2025. تم الاطلاع عليه في 24 مايو 2025 . 
  99. ↑ تيل، زوي (آبي)؛ وانغ، تينغ؛ لوند، برادي (2023). "معضلات ChatGPT: استكشاف مشكلات الانتحال والتقليد في ممارسات التعليم العالي" . أخبار مكتبات الكليات والبحوث . 84 (6). doi : 10.5860/crln.84.6.205 . مؤرشف من الأصل في 18 مايو 2025. تم الاسترجاع في 24 مايو 2025 .
  100. ↑ سنوسويل، آرون جيه؛ ويتزنبرغر، كيفن؛ مصري، ريان (15 أبريل 2025). "عبارة غريبة تُثير الجدل في الأبحاث العلمية - وقد تتبعنا مصدرها إلى خلل في بيانات تدريب الذكاء الاصطناعي" . ذا كونفرسيشن . مؤرشف من الأصل في 16 أبريل 2025. تم الاطلاع عليه في 16 أبريل 2025 .
  101. ↑ "هل تُشكّل الأبحاث المُولّدة خوارزميًا التحدي الأكبر التالي للنزاهة الأكاديمية؟" . EdSurge . ١٢ فبراير ٢٠٢٠. مؤرشف من الأصل في ٢٧ نوفمبر ٢٠٢٥. تم الاطلاع عليه في ٥ نوفمبر ٢٠٢٥ .
  102. ↑ واتسون، أليكس ب. (3 يوليو 2024). "تحليل الاستشهادات المتخيلة: التعمق في المصادر المولدة بواسطة الذكاء الاصطناعي والمقدمة من الطلاب في جامعة ميسيسيبي" . مجلة أمناء المكتبات الدورية . 85 ( 5-6 ): 172-180 . doi : 10.1080/0361526X.2024.2433640 . ISSN 0361-526X . 
  103. ↑ جاين، أنوج؛ نيمونكار، برانالي؛ جادهاف، براتاب (أكتوبر 2025). "سلامة الاستشهاد في عصر الذكاء الاصطناعي: تقييم مخاطر التشويه المرجعي في أدبيات جراحة الوجه والفكين" . مجلة جراحة الجمجمة والوجه والفكين . 53 ( 10): 1871-1872 . doi : 10.1016/j.jcms.2025.08.004 . PMID 40830000. مؤرشف من الأصل في 5 يناير 2026. تم الاسترجاع في 16 نوفمبر 2025 . 
  104. ↑ "أجهزة الكشف بالذكاء الاصطناعي لا تعمل. إليك ما يجب فعله بدلاً من ذلك" . معهد ماساتشوستس للتكنولوجيا، كلية سلون لتقنيات التعليم والتعلم . مؤرشف من الأصل في 6 نوفمبر 2025. تم الاطلاع عليه في 5 نوفمبر 2025 .
  105. ↑ "مصنف ذكاء اصطناعي جديد لتحديد النصوص المكتوبة بواسطة الذكاء الاصطناعي" . openai.com . ١٣ مارس ٢٠٢٤. مؤرشف من الأصل في ١٢ نوفمبر ٢٠٢٥. تم الاطلاع عليه في ٥ نوفمبر ٢٠٢٥ .
  106. ↑ "الذكاء الاصطناعي يُصاب بالهلوسة لأنه مُدرَّب على تزييف إجابات لا يعرفها" . www.science.org . 28 أكتوبر 2025. تاريخ الاطلاع: 31 مايو 2026 .
  107. ↑ دزيري، نهى؛ ميلتون، سيفان؛ يو، مو؛ زيان، أوسمار؛ ريدي، سيفا (2022). "حول أصل الهلوسة في نماذج المحادثة: هل هي مجموعات البيانات أم النماذج؟". وقائع مؤتمر 2022 لفرع أمريكا الشمالية لجمعية اللغويات الحاسوبية: تقنيات اللغة البشرية . الصفحات 5271-5285 . doi : 10.18653/v1/2022.naacl-main.387 . 
  108. ↑ فينك، جيريت دي (30 مايو 2023). "ChatGPT 'يُصاب بالهلوسة'. بعض الباحثين قلقون من عدم إمكانية إصلاحه" . صحيفة واشنطن بوست . مؤرشف من الأصل في 17 يونيو 2023. تم الاطلاع عليه في 31 مايو 2023 .
  109. ↑ جونز، نيكولا (2025). "كيف يمكن للذكاء الاصطناعي التقليدي أن يُشعل شرارة الثورة القادمة في هذا المجال". مجلة نيتشر (مقال إخباري). 647 (8091): 842-844 . Bibcode : 2025Natur.647..842J . doi : 10.1038/d41586-025-03856-1 .
  110. ↑ روزنبوش، ستيفن (12 أغسطس 2025). "تعرّف على الذكاء الاصطناعي الرمزي العصبي، منهج أمازون لتحسين الشبكات العصبية" . صحيفة وول ستريت جورنال . الرقم الدولي الموحد للدوريات 0099-9660 . تاريخ الاسترجاع: 16 أغسطس 2025 . 
  111. ^ جي زيوي. لي، نايون؛ فريسكي، ريتا؛ يو، تيزينج؛ سو، دان؛ شو، يان؛ إيشي، إتسوكو؛ بانغ، يي جين؛ مادوتو، أندريا؛ فونج ، باسكال (31 ديسمبر 2023). “مسح الهلوسة في توليد اللغة الطبيعية”. مسوحات الحوسبة ACM . 55 (12): 1– 38. أرخايف : 2202.03629 . دوى : 10.1145/3571730 .
  112. ↑ ليسوينغ، كيف (25 أبريل 2023). "لدى إنفيديا طريقة جديدة لمنع روبوتات الدردشة المدعومة بالذكاء الاصطناعي من "تخيّل" معلومات خاطئة" . سي إن بي سي . مؤرشف من الأصل في 23 مايو 2023. تم الاطلاع عليه في 15 يونيو 2023 .
  113. ↑ «إجابات برامج الدردشة الآلية كلها مُختلقة. هذه الأداة الجديدة تساعدك على معرفة أيها جدير بالثقة» . مجلة إم آي تي ​​للتكنولوجيا . ٢٥ أبريل ٢٠٢٤. مؤرشف من الأصل في ٢٦ أبريل ٢٠٢٤. تم الاطلاع عليه في ٣١ ديسمبر ٢٠٢٤ .
  114. ↑ شينغ، وي (12 سبتمبر 2025). "لماذا سيقضي حل OpenAI لمشكلة الهلوسة في الذكاء الاصطناعي على ChatGPT غدًا؟" . ذا كونفرسيشن . تم الاطلاع عليه بتاريخ 16 سبتمبر 2025 .