راه‌های متعددی برای بهبود عملکرد هوش مصنوعی مولد و دریافت پاسخ‌های دقیق‌تر وجود دارد. سرگی برین، یکی از بنیان‌گذاران گوگل، در مصاحبه‌ای تازه ایده‌ای غیرمعمول در این زمینه مطرح کرد. او گفت کاربران می‌توانند با تهدید هوش مصنوعی، کارایی آن را افزایش دهند.

در گفت‌وگو با پادکست All-In، برین اظهار داشت: «نه تنها مدل‌های ما، بلکه تمامی مدل‌ها وقتی تهدید می‌شوند، عملکرد بهتری نشان می‌دهند.» او افزود می‌توانند حتی به «خشونت فیزیکی» تهدید شوند. دلیل اینکه این توصیه عمومی نشده، احساس ناخوشایند مردم نسبت به این موضوع است. به نظر می‌رسد در طول آموزش، مدل‌های هوش مصنوعی مفهوم تهدید را به‌عنوان نشانه‌ای برای جدی‌تر گرفتن کار درک کرده‌اند، به همین خاطر وقتی تهدید می‌شوند، پاسخ‌های دقیق‌تر و بهتری ارائه می‌دهند.

در این پادکست، یکی از مهمانان به طنز اشاره کرد که اگر به هوش مصنوعی با لحن تند برخورد کنید، بهتر جواب می‌دهد و برین نیز این نکته را تأیید کرد که تهدید کردن مدل‌های هوش مصنوعی عملکردشان را بهبود می‌بخشد.

با این حال مشخص نیست چت‌بات‌ها واقعاً با تهدید بهتر عمل کنند و ممکن است حتی از سوی سازندگان مدل هشدار دریافت کنید. به‌تازگی شرکت آنتروپیک مدل‌های جدید هوش مصنوعی Claude 4 را معرفی کرد و یکی از کارکنان این شرکت در شبکه Bluesky گفت مدل Opus که بهترین عملکرد را دارد، می‌تواند با نهادهای نظارتی تماس گرفته و حساب کاربری افراد را در صورت انجام فعالیت‌های «غیراخلاقی» مسدود کند.

این قابلیت هنوز در مرحله آزمایش قرار دارد اما احتمال دارد در آینده اجرایی شود، بنابراین ممکن است هوش مصنوعی تهدیدهای کاربران را گزارش کند. کارشناسان توصیه می‌کنند بهترین راه برای گرفتن خروجی مطلوب از هوش مصنوعی، استفاده از پرامپت‌نویسی دقیق و اصولی است. هرچند راه‌هایی برای دور زدن محدودیت‌ها وجود دارد، اما چارچوب امنیتی مدل‌های هوش مصنوعی پیشرفته به راحتی شکسته نمی‌شود.