اخطار در رابطه با ایمنی هوش مصنوعی هیچ شرکتی کنترل ابرهوش را ضمانت نمی کند
وب کنفرانس: طبق تحقیقی جدید بیشتر شرکتهای هوش مصنوعی نمی توانند ریسک های فاجعه بار این فناوری را مدیریت کنند.
به گزارش وب کنفرانس به نقل از ایندیپندنت، پژوهش مؤسسه Future of Life نشان میدهد که ۸ شرکت برتر هوش مصنوعی فاقد اقدامات ایمنی اثبات شده، نظارت مستقل و برنامه های بلند مدت برای مدیریت ریسک سیستم های قدرتمند هستند. در شاخص ایمنی هوش مصنوعی (AI Safety Index)، شرکت های آمریکایی بهترین امتیاز را گرفتند و محصول Anthropic بیشتر از OpenAI و DeepMind گوگل قرار گرفت. در عین حال، هیچ شرکتی در ارزیابی «ریسک وجودی» نمره بیشتر از D نگرفت و Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai نمره F کسب کردند. پژوهش تاکید کرده که ایمنی وجودی همچنان بزرگ ترین ضعف ساختاری این حوزه است و فاصله بین شتاب در توسعه AGI و نبود برنامه های معتبر کنترل آن روزبه روز نگران کننده تر می شود. استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، می گوید: «مدیران ارشد می دانند چطور ابرهوش بسازند، اما هیچ کس نمی تواند نشان دهد چطور خطر از دست رفتن کنترل آنها را مهار می کند. آنها نمی توانند ریسک سالانه از دست دادن کنترل را به اندازه ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته ای باشد.»
آنها نمی توانند ریسک سالانه از دست دادن کنترل را به اندازه ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته ای باشد.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب