ایمنی هوش مصنوعی

ایمنی هوش مصنوعی یک زمینه بین رشته‌ای است که با پیشگیری از سوء استفاده، حوادث یا سایر پیامدهای مضری که می‌تواند از سیستم‌های هوش مصنوعی (AI) ایجاد شود، مرتبط است. این موضوع شامل اصول اخلاق ماشین می‌شود که هدف آن اخلاقی و سودمند ساختن سیستم‌های هوش مصنوعی است و مشکلات‌های فنی از جمله سیستم‌های نظارت بر خطرات و قابل اعتماد ساختن آنها می‌شود.. فراتر از تحقیقات، ایجاد هنجارها و سیاست‌هایی که ایمنی هوش مصنوعی را ارتقا می‌دهد از اهداف ایمنی هوش مصنوعی است.

برخی از راه‌هایی که یک هوش مصنوعی پیشرفته می‌تواند از طریق آن برای به دست آوردن قدرت بیشتر تلاش کند. ممکن است رفتارهای قدرت جویانه از خود نشان دهد زیرا قدرت برای تحقق هر هدفی مورد نیاز است.

منابع

• مشارکت‌کنندگان ویکی‌پدیا. «AI safety». در دانشنامهٔ ویکی‌پدیای انگلیسی، بازبینی‌شده در ۱۳ ژوئن ۲۰۲۳.