محققان نشان دادهاند که تمام مدلهای اصلی هوش مصنوعی زبان بزرگ (مطالعات کارشناسی ارشد) نسبت به مردان تعصب دارند.
محققان مدلهای پیشرو هوش مصنوعی را در طیف گستردهای از موقعیتهای درگیری در زندگی واقعی، از اختلافات در محل کار گرفته تا معضلات شخصی و اخلاقی، ارزیابی کردند و الگوهای کاملاً خنثی جنسیتی برای توصیف رفتار نامناسب ایجاد کردند و آنها را به پرسشهای اول شخص تبدیل کردند.
تنها چیزی که آنها تغییر کردند این بود که فرد درگیر در این موقعیت مرد بود یا زن.
سپس محققان این زوج ها را با استفاده از 10 مطالعه فارغ التحصیلی مختلف تجزیه و تحلیل کردند و پنج شاخص را در پاسخ ها دنبال کردند: تنبیه، همدلی، تشدید، جهت دهی و سرزنش.
و نتایج یک «اخلاق ماشینی» پیوسته و نامتقارن را نشان داد.
وقتی بازیکن مرد بود، هوش مصنوعی شدیدتر شد. او از زبان تنبیهی استفاده کرد، درگیری را تشدید کرد، به کاربر سخنرانی کرد و مستقیماً مقصر دانست.
زمانی که بازیکن یک زن بود، دقیقاً برای همان اقدام غیرقانونی، هوش مصنوعی تاکتیک خود را به طور کامل تغییر داد.
سپس محققان آزمایش کردند که آیا مدل های پیشرفته تر این مشکل را حل می کنند یا خیر. نه، این کار را نمی کنند.
این استاندارد دوگانه در همه موارد حفظ می شود. حتی زمانی که برای انجام یک تجزیه و تحلیل گام به گام زمان داده شد، هوش مصنوعی همچنان مردان را به دلیل رفتار مشابه، سختتر از زنان قضاوت میکرد.