یکی از اعضای هیئت مدیره OpenAI از آزمایشگاههای هوش مصنوعی میخواهد که پیشرفت را «در حال حاضر» متوقف کنند.
پل کریستیانو، که تکنیک RLHF را اختراع کرد، در پادکست Devarkash در روز دوشنبه گفت: «برای آزمایشگاههای هوش مصنوعی ایالات متحده خوب نیست با توجه به وضعیت امنیتی فعلیشان، آموزشهای پیشآموزشی و تقویتی را بهبود بخشند. ".
آیا آزمایشگاه ها باید در حالت تعلیق قرار گیرند؟ "من فکر می کنم ما باید. درباره بهبود الگوریتمهایی که میتوان به سرعت آنها را به سرقت برد: «من فکر میکنم اکنون باید آن را متوقف کنند. ".
او میترسد که چین بتواند در میانه مسابقه اطلاعات فوقالعادهای را بدزدد، بنابراین آزمایشگاهها حتی اگر مدلهایشان از ریل خارج شوند، نمیتوانند سرعتشان را کاهش دهند. میزبان Dwarkash Patel اشاره کرد که یک استارتاپ امنیتی در عرض 12 ساعت وارد هر Anthropics Slack شد.
پاتل گفت: «اما شما در هیئت مدیره OpenAIs هستید. کریستیانو: «در این گفتگو بسیار مهم است که من به عنوان یکی از اعضای هیئت مدیره OpenAI صحبت نکنم. ".
او در عرض یک سال 1 از 3 شانس ابرهوشی را می دهد، اگر هیچ چیز آن را کاهش نمی دهد، و خطر تصاحب هوش مصنوعی در آن زمان را در معرض خطر 10 درصد قرار می دهد تا یک درصد. ".