محقق آنتروپیک از ترس هوش مصنوعی استعفا داد
به گزارش وب کنفرانس، یک محقق هوش مصنوعی این صنعت را ترک کرد چونکه باور دارد این فناوری با زندگی انسان ها قمار می کند.
به گزارش وب کنفرانس به نقل از مانی وایز، «جیکوب کاکسون» سه سال صرف ساخت مدلهای هوش مصنوعی در اوپن ای آی و آنتروپیک کرده است. او روز هشتم سپتامبر از آنتروپیک استعفا داد و این صنعت را ترک کرد. وی در شبکه اجتماعی ایکس نوشت: هیچ یک از دو شرکت مسئولانه رفتار نمی کنند. آنها برای بهبود ابرهوش مصنوعی خود و قمار با زندگی ما با یکدیگر رقابت می کنند.
کاکسون 27 ساله در اوایل سال به سبب شهرت آنتروپیک در حوزه ایمنی، به این شرکت پیوست. وی در مصاحبه ای با وال استریت ژورنال گفت اقدامات ایمنی حقیقی است اما رقابت سبب می شود تعارض ها اجتناب ناپذیر شوند.
او در این زمینه اظهار داشت: ما در راه تحقق خیلی از بدبینانه ترین سناریوها قرار داریم، بطوریکه تا انتهای سال آینده، اوضاع ممکنست از کنترل خارج شده باشد.
وی همینطور در رابطه با اضافه کرد: اشخاصی که هوش مصنوعی را می سازند، صادقانه اعتقاد دارند این فناوری ممکنست تا پایان دهه جاری ما را بکشد.
به گفته کاکسون دست اندرکاران این صنعت در سکوت نگران این وضعیت هستند. البته او تنها کسی در آنتروپیک نیست که بحث انقراض انسان توسط هوش مصنوعی را مطرح کرده است. «اون هوبینگر»مسئول بخش هم راستاسازی (Alignment) این شرکت، هم در اظهارنظری جداگانه گفت امکان رخداد چنین رویدادی را بیشتر از ۱۰ درصد می داند.
ابر هوش مصنوعی مصنوعی به مفهوم سیستمی است که حدودا در همه چیز از انسان ها باهوش تر است. خودبهینه سازی هم یکی از وجوه نگران کننده این صنعت چونکه سیستمی را توصیف می کند که به طورخودکار کدهای خویش را اصلاح می کند تا هوشش را بیشتر کند، مانند انسان.
در نتیجه این سیستم ها می توانند مقدار انبوهی دانش را به صورت مستقل به دست بیاورند و احیانا به زیرساخت های مؤسسات بزرگ نفوذ کنند.
کاکسون در این زمینه هم می گوید: قدرت این فناوری را دست کم نگیرید. بزودی سیستم های ابر انسان که می توانند همه چیز را هک کنند، یک شبه هر حوزه یا متحول می کنند و به قدرت حقیقی و منابع دست می یابند. ما همه شاهد پیشرفت در این زمینه ها بوده ایم و این فرآیند کند تر نمی شود.
منبع: وب كنفرانس
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب