بررسی فرصتها و چالشهای مدلهای زبانی بزرگ در تحلیل خطر سامانههای ایمنیبحرانی
پژوهشگر گروه مهندسی بهداشت حرفهای در دومین جلسه ژورنال کلاب این گروه با اشاره به لزوم ارزیابی دقیق ابزارهای هوش مصنوعی گفت: اگرچه قابلیتهای مدلهای زبانی بزرگ در درک و تولید زبان طبیعی موجب توجه به آنها در زمینههایی مانند شناسایی خطرات و تحلیل ایمنی شده است، اما قابلیت اطمینان، دقت و اعتمادپذیری این مدلها در کاربردهای ایمنیبحرانی همچنان نیازمند ارزیابی دقیق است.
به گزارش روابط عمومی دانشکده بهداشت، جلسه ژورنال کلاب مهندسی بهداشت حرفهای و ایمنی کار با تحلیل مقالهای با عنوان «بررسی کاربرد مدلهای زبانی بزرگ در تحلیل خطر سامانههای ایمنیبحرانی» توسط مهدی شورکشتی و به راهنمایی دکتر وثوقی برگزار شد.
مهدی شورکشتی در این جلسه به بررسی فرصتها و چالشهای استفاده از مدلهای زبانی بزرگ (LLMs) در حوزه تحلیل خطر پرداخت و اظهار داشت: با توجه به قابلیتهای این مدلها در شناسایی خطرات، تحلیل حالتهای بالقوه خرابی و پشتیبانی از فرایندهای تحلیل ایمنی، استفاده از آنها مورد توجه قرار گرفته است، با این وجود بررسی میزان تناسب بنچمارکهای موجود با نیازهای تحلیل خطر در سامانههای ایمنیبحرانی اهمیت بالایی دارد.
وی افزود: یافتههای این مطالعه نشان میدهد که بنچمارکهای موجود در زمینههایی همچون دانش تخصصی ایمنی، استدلال علی در زمینههای فنی، ارزیابی انطباق با مقررات و استانداردهای ایمنی، تحلیل ریسک و مدیریت عدمقطعیت با محدودیتهایی مواجه هستند.
شورکشتی در ادامه از پیشنهاد یک چارچوب مفهومی در این مقاله برای توسعه بنچمارکهای تخصصی در حوزه تحلیل خطر خبر داد و گفت: این چارچوب مؤلفههایی همچون شناسایی خطر، استدلال علی، ارزیابی کیفیت تحلیل ریسک، انطباق با مقررات و استانداردهای ایمنی و ثبات عملکرد مدل در اجراهای مختلف را مورد توجه قرار داده و در بخش مطالعه آزمایشی نیز عملکرد مدل در ۹ سناریوی ایمنیبحرانی طی سه نوبت اجرا بررسی شده است.
این پژوهشگر در انتها خاطرنشان کرد: نتایج نشان داد که اگرچه نرخ موفقیت مدل در تولید پاسخ در اجراهای مختلف نسبتاً پایدار بوده، اما کیفیت تحلیل با نوسان همراه بوده و عملکرد مدل در زمینه استدلال علی ضعیف و غیرقابلپیشبینی گزارش شده است؛ یافتههایی که بر ضرورت توجه به ثبات عملکرد مدلهای زبانی بزرگ، در کنار دقت و کیفیت پاسخهای آنها، در کاربردهای ایمنیبحرانی تأکید دارد.


نظر دهید