مرکز منطقه ای اطلاع رسانی علوم و فناوری فصلنامه فناوری اطلاعات و ارتباطات ایران 2717-0411 68 68 2026 4 19 A Systematic Review of Trustworthiness, Hallucination, and Safety in Large Vision-Language Models مروری سیستماتیک بر قابلیت اعتماد، توهم و ایمنی در مدل‌های بزرگ بینایی-زبان fa حانیه نادری دانشگاه صنعتی شریف دانشگاه تهران 2026 4 18 <p style="text-align: left;">Large Vision&ndash;Language Models (LVLMs), despite their remarkable progress in multimodal tasks, continue to face two fundamental reliability challenges: the generation of hallucinatory content inconsistent with visual evidence, and vulnerability to adversarial attacks that bypass safety mechanisms. This systematic review, conducted in accordance with the PRISMA 2020 reporting framework and based on 31 selected studies from 2023 to 2025, investigates the technical roots of hallucination across multiple levels (object, attribute, relation, and narrative), visual jailbreak mechanisms, and mitigation strategies at both training and inference stages.</p> <p style="text-align: left;">The findings indicate that over-reliance on linguistic priors is a common underlying factor behind many hallucination errors and safety failures, and that purely text-based alignment is insufficient for multimodal systems. Furthermore, a significant gap exists between current evaluation capabilities and the real-world complexity of vulnerabilities, hindering comprehensive reliability assessment.</p> <p style="text-align: left;">This review provides an integrated taxonomy of vulnerabilities and outlines a research roadmap, offering a structured foundation for the development of more reliable vision&ndash;language models.</p> <p>مدل&zwnj;های بزرگ بینایی-زبان با وجود پیشرفت&zwnj;های چشمگیر در وظایف چندوجهی، همچنان با دو چالش بنیادین قابلیت اعتماد روبه&zwnj;رو هستند: تولید محتوای توهمی ناسازگار با شواهد بصری، و آسیب&zwnj;پذیری در برابر حملات خصمانه که سازوکارهای ایمنی را دور می&zwnj;زنند. این مرور سیستماتیک با پیروی از چارچوب گزارش&zwnj;دهی پریزما ۲۰۲۰ و بررسی ۳۱ مطالعه منتخب از سال&zwnj;های ۲۰۲۳ تا ۲۰۲۵، به بررسی ریشه&zwnj;های فنی توهم در سطوح مختلف (شیء، ویژگی، رابطه و روایت)، سازوکارهای جیل&zwnj;بریک بصری، و راهبردهای کاهش در زمان آموزش و استنتاج می&zwnj;پردازد. یافته&zwnj;های این مطالعه نشان می&zwnj;دهد که اتکای بیش از حد به پیشین&zwnj;های زبانی، ریشه مشترک بسیاری از خطاهای توهمی و شکست&zwnj;های ایمنی است و هم&zwnj;ترازی صرفاً متنی برای سیستم&zwnj;های چندوجهی کافی نیست. همچنین، شکاف معناداری میان توانمندی&zwnj;های ارزیابی فعلی و پیچیدگی واقعی آسیب&zwnj;پذیری&zwnj;ها وجود دارد که مانع سنجش جامع قابلیت اعتماد می&zwnj;شود. این مرور با ارائه تاکسونومی یکپارچه از آسیب&zwnj;پذیری&zwnj;ها و نقشه راه پژوهشی، چارچوبی برای توسعه مدل&zwnj;های قابل اعتمادتر فراهم می&zwnj;آورد.</p> http://jour.aicti.ir/fa/Article/Download/53399