گروهی از کارشناسان برجسته فناوری از سراسر جهان هشدار داده‌اند که فناوری هوش مصنوعی باید به عنوان یک خطر اجتماعی در نظر گرفته شود و در اولویت‌بندی مشابه بیماری‌های همه‌گیر و جنگ‌های هسته‌ای قرار گیرد.
این بیانیه که توسط صدها مدیر اجرایی و دانشگاهی امضا شده است، روز سه شنبه توسط مرکز ایمنی هوش مصنوعی در میان نگرانی های فزاینده در مورد مقررات و خطراتی که این فناوری برای بشریت ایجاد می کند منتشر کرد.
در بیانیه آمده است: «کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند همه‌گیری‌ها و جنگ هسته‌ای یک اولویت جهانی باشد. امضاکنندگان شامل مدیران ارشد DeepMind گوگل، توسعه دهنده ChatGPT OpenAI و استارتاپ هوش مصنوعی Anthropic بودند.
رهبران جهانی و کارشناسان صنعت – مانند رهبران OpenAI – به دلیل ترس وجودی که می تواند به طور قابل توجهی بر بازارهای کار تأثیر بگذارد، به سلامت میلیون ها نفر آسیب برساند و اطلاعات نادرست سلاح، تبعیض و جعل هویت را ایجاد کند، خواستار تنظیم مقررات این فناوری شده اند.
در این ماه، مردی که اغلب به عنوان پدرخوانده هوش مصنوعی تبلیغ می‌شد – جفری هینتون، که یکی از امضاکنندگان آن نیز بود – گوگل را به دلیل «خطر وجودی» آن ترک کرد. این خطر هفته گذشته برای اولین بار توسط شماره 10 تکرار شد و به آن اذعان کرد – تغییر سریع رویکرد در داخل دولت که دو ماه پس از انتشار یک کاغذ سفید هوش مصنوعی رخ داد که ارقام صنعت کاغذ سفید هشدار داده بودند که قبلاً قدیمی است.
به گفته مایکل آزبورن، استاد یادگیری ماشین در دانشگاه آکسفورد و یکی از بنیان‌گذاران مایند، اگرچه نامه منتشر شده در روز سه‌شنبه اولین نامه نیست، اما با توجه به طیف گسترده‌تر امضاکنندگان و نگرانی اصلی وجودی آن، احتمالاً بیشترین تأثیر را دارد. ریخته گری.
او گفت: «واقعاً قابل توجه است که افراد زیادی در این نامه ثبت نام کردند. این نشان می‌دهد که در میان ما که در زمینه هوش مصنوعی کار می‌کنیم، متوجه می‌شویم که خطرات وجودی یک نگرانی واقعی هستند.»
پتانسیل هوش مصنوعی برای تشدید خطرات وجودی موجود مانند بیماری های همه گیر مهندسی شده و مسابقات تسلیحاتی نظامی، نگرانی هایی هستند که آزبورن را به امضای نامه عمومی همراه با تهدیدات وجودی جدید هوش مصنوعی سوق داد.
تماس‌ها برای مهار تهدیدها پس از موفقیت ChatGPT که در ماه نوامبر راه‌اندازی شد. مدل زبان به طور گسترده توسط میلیون‌ها نفر پذیرفته شده است و به سرعت فراتر از پیش‌بینی‌های آن‌هایی که به بهترین وجه در این صنعت آگاه هستند، پیشرفت کرده است.
آزبورن گفت: «از آنجایی که ما هوش مصنوعی را به خوبی درک نمی‌کنیم، این احتمال وجود دارد که به عنوان نوعی ارگانیسم رقیب جدید در این سیاره نقش داشته باشد، بنابراین نوعی از گونه‌های مهاجمی که ما طراحی کرده‌ایم ممکن است نقشی ویرانگر داشته باشد. نقشی در بقای ما به عنوان یک گونه دارد.»