محمد رؤوف عابدینی

پژوهشگر امنیت هستم و بر سنجش و مهار توانمندی‌های سایبری هوش مصنوعی پیشرفته کار می‌کنم. اکنون آماده جابه‌جایی هستم. کارهایم عمومی، امضاشده و بازتولیدپذیرند: یک چارچوب متن‌باز برای گواهی مهار، پنج پیش‌چاپ بایگانی‌شده در Zenodo با DOI و نمایه ORCID، و مشارکت در برنامه ارزیابی ایمنی Anthropic.

سازنده Project Simurgh هستم؛ چارچوب گواهی مهاری مستقل از ارائه‌دهنده که عامل‌های مدل‌های زبانی بزرگ را با آزمون‌های تهاجمی ارزیابی می‌کند. مدل تهدید آن، تولیدکننده شواهد را بالقوه متقلب فرض می‌کند. این چارچوب شواهد امضاشده با Ed25519 و قابل راستی‌آزمایی آفلاین از عملکرد عامل پس از خطای سازوکار ایمنی تولید می‌کند: مهار ۱۳۸/۱۳۸ مورد از دست‌رفته دسته‌بند واقعی Llama Guard 4، کاهش موفقیت حمله عامل در AgentDojo از ۹/۱۴۰ به ۰/۱۴۰، و پنج قضیه تأییدشده ماشینی در Lean. با مجوز AGPL-3.0 و ۳٬۰۵۷ آزمون.

نویسنده اصلی The Invisible Window و Aion-BibleQA هستم. پژوهش اول، دورزدن 100% ضبط صفحه را در پیکربندی‌های آزمایشگاهی آزموده‌شده Windows و macOS نشان می‌دهد و طبق راهنمای OWASP/FIRST/CISA مسئولانه افشا شده است. پژوهش دوم، معیاری برای سنجش وفاداری استناد در مدل‌های زبانی تقویت‌شده با بازیابی است: R@5 برابر ۰٫۹۴۱ و بدون استناد بی‌پشتوانه. در برنامه ارزیابی ایمنی Anthropic از طریق Alignerr در سال ۲۰۲۶، خروجی‌های Claude را از نظر کد قابل سوءاستفاده و دور زدن سازوکارهای ایمنی بررسی کرده‌ام. هم‌بنیان‌گذار استارتاپ هوش مصنوعی دانشگاهی با حمایت مرکز رشد هستم. با سنجش افزایش توانمندی‌ها، تعیین مرزهای ایمنی و ساخت ابزارهای دفاعی، برای کاهش خطرهای فاجعه‌بار هوش مصنوعی پیشرفته کار می‌کنم.