هشدار تازه بیل گیتس درباره هوش مصنوعی؛ خطر واقعی چیزی نیست که فکر می‌کنید

بیل گیتس در گفت‌وگو با برنامه «Meet the Press» شبکه NBC، تمرکز گسترده بر ایده ساخت «کلید خاموشی» برای هوش مصنوعی را ناشی از توجه بیش از حد به یک سناریوی فرضی دانست؛ سناریویی که در آن یک سامانه بسیار پیشرفته پس از فعال شدن، دیگر قابل توقف نیست.

او تأکید کرد که چنین بحثی نباید خطرهایی را که هم‌اکنون وجود دارند، تحت‌الشعاع قرار دهد.

تهدید اصلی از نگاه گیتس

به گفته گیتس، ترکیب افراد دارای نیت مخرب با ابزارهای پیشرفته هوش مصنوعی می‌تواند یکی از خطرناک‌ترین تهدیدهای کنونی باشد. او معتقد است جهان تاکنون با سلاحی به قدرت این ترکیب روبه‌رو نبوده است.

این نگرانی صرفاً به داستان‌های علمی‌تخیلی محدود نمی‌شود. مدل‌های فعلی برای انجام فعالیت‌های پیچیده به کار گرفته می‌شوند و شرکت‌های توسعه‌دهنده نیز از تلاش‌هایی برای استفاده نادرست از آن‌ها در حملات سایبری و پژوهش‌های زیستی پرخطر خبر داده‌اند.

محدودیت‌های کلید خاموشی

«کلید خاموشی» یا Kill Switch به سازوکاری گفته می‌شود که امکان توقف یک سامانه هوش مصنوعی را در شرایط اضطراری فراهم می‌کند. چنین ابزاری می‌تواند برای سیستم‌های بسیار قدرتمند، یکی از لایه‌های دفاعی محسوب شود.

با این حال، گیتس هشدار داده است که خاموش کردن مدل پس از آغاز یک فعالیت مخرب، الزاماً خسارت ایجادشده را جبران نمی‌کند. برای نمونه، اگر از یک مدل در حمله سایبری استفاده شود، توقف آن پس از شروع حمله لزوماً آثار اقدام انجام‌شده را از بین نمی‌برد.

بر همین اساس، او بر نظارت از مرحله پیش از استفاده و ثبت سوابق فعالیت مدل‌های پیشرفته تأکید دارد. از دیدگاه گیتس، شرکت‌ها نباید به‌تنهایی مسئول تعیین و اجرای محدودیت‌ها باشند و دولت‌ها نیز باید در تدوین استانداردهای ایمنی و نظارتی مشارکت کنند.

سناریوی هوش مصنوعی خارج از کنترل

احتمال ظهور سامانه‌هایی که بتوانند به‌صورت مستقل عمل کنند، خود را بهبود دهند یا از کنترل انسان خارج شوند، یکی از محورهای مهم بحث ایمنی هوش مصنوعی است. گیتس می‌گوید مدل‌های فعلی هنوز به مرحله‌ای نرسیده‌اند که کنترل رایانه‌ها را به‌طور مستقل در دست بگیرند و امکان خاموش کردن آن‌ها وجود نداشته باشد.

او در عین حال، این موضوع را بی‌اهمیت نمی‌داند؛ اما معتقد است تمرکز افراطی بر خطرهای آینده ممکن است توجه عمومی و سیاست‌گذاران را از تهدیدهای موجود منحرف کند. برای مقابله با ریسک‌های هوش مصنوعی، لازم نیست تا ظهور یک سامانه کاملاً خودمختار صبر کرد.

اهمیت نحوه استفاده از فناوری

مدل‌های هوش مصنوعی می‌توانند برای طراحی دارو و پیشبرد پژوهش‌های علمی به کار روند، اما همین توانایی‌ها ممکن است در اختیار افراد مخرب قرار گیرد و برای حملات سایبری یا فعالیت‌های زیستی خطرناک استفاده شود. در این چارچوب، تفاوت اصلی نه در فناوری، بلکه در شیوه و هدف استفاده از آن است.

گیتس بر این باور است که هم‌زمان با توسعه قابلیت‌های هوش مصنوعی، نظارت، ثبت فعالیت‌ها و سازوکارهای ایمنی نیز باید گسترش یابد. او می‌گوید دولت‌ها و شرکت‌ها نباید منتظر وقوع یک فاجعه بزرگ بمانند تا درباره مقررات ایمنی تصمیم‌گیری کنند.

استخاره آنلاین خوب و بد فوری

پوشاکس فروشگاه کفش و کتونی، بوت و نیم بوت