כיצד נמנעת בינה מלאכותית מתשובות לא ברורות?

כיצד נמנעת בינה מלאכותית מתשובות לא ברורות?

🔹חוקרי Google DeepMind הראו בניסוי בן ארבעה שלבים שמודלים של שפה גדולים יכולים להעריך את רמת הביטחון שלהם בתשובות ולסרב לספק תשובות אם הם לא בטוחים מספיק; תכונה שעוזרת לצמצם תשובות מטעות ולהגביר את האמינות של בינה מלאכותית.

🔹 אתר TechExplorer מסר בדוח:

מודלים של שפות גדולות (אלאם) הן אותן מערכות בינה מלאכותית שעומדות מאחורי הפלטפורמות כמו Chatjipit ו-Gemina. מודלים אלו צפויים לענות על שאלות, ליצור טקסט ולקבל החלטות ללא פיקוח של מומחים אנושיים; אבל מחקרים קודמים מראים שהמודלים האלה מטעים לפעמים את המשתמשים ומספקים תשובות לא בטוחות; תשובות שבהן מובע אמון רב באמירות כוזבות או לא מדויקות.