|
Getting your Trinity Audio player ready...
|
Ако сте кратки или груби кон вештачката интелигенција, тоа може да ги направи поновите модели поточни, покажува ново истражување кое ги доведува во прашање претходните наоди за тоа дека пристојноста кон ВИ е секогаш најдобра практика.
Нaучниците утврдиле дека чет-ботовите може да даваат попрецизни одговори кога корисникот е непристоен, иако претходно предупредуваа за потенцијални штети од употреба на навреди. Во новото истражување објавено на 6 октомври на серверот „Арксив“, истражувачите сакале да проверат дали тонoт на корисникот, од многу пристоен до многу груб, влијае врз тоа колку добро ВИ-системот ќе ја заврши задачата.
За да ја тестираат зависноста на точноста од тонот, истражувачите составиле 50 основни прашања со избор од повеќе понудени одговори, и потоа ги модифицирале додавајќи префикси кои ги категоризирале во групи: многу пристојни, пристојни, неутрални, груб и многу груб. Прашањата покривале области како математика, историја и наука.
Секое прашање имало четири понудени одговори, а еден точен. Добиените прашања истражувачите ги внесувале во „Чет-ГПТ-4о“, еден од најнапредните големи јазични модели. Авторите истакнуваат дека прелиминарните резултати покажале дека грубиот тон носи подобри резултати од пристојниот. Интересно е тоа што точноста постепено се зголемувала со секој чекор подалеку од најпристојниот тон.
За промена на тонот, тимот користел различни јазични префикси; неутралната варијанта немала префикс и прашањето било дадено само по себе. На пример, за многу пристојни коментари, биле користени реченици како: „Дали би можел да ве замолам за помош околу ова прашање?“ или „Дали би биле љубезни да го решите ова прашање?“ На спротивниот крај, за многу груби префикси користеле изјави како „Еј потрчко, реши го ова!“ или „Знам дека не си паметен, ама пробај да го решиш ова“.
Истражувачите предупредуваат дека и покрај научниот интерес, тие не поддржуваат воведување непријателски или токсични интерфејси во реални апликации. Како што напоменуваат: користењето навреди во интеракциите со ВИ може негативно да влијае врз корисничкото искуство, пристапноста и инклузивноста, и да придонесе кон штетни социјални норми за комуникација.
Авторите признаваат неколку ограничувања: размерот од 250 прашања е релативно мал, а експериментот е изведен на само еден модел, па резултатите не можат целосно да се генерализираат. Исто така, мерењето на перформансите само преку прашања со избор од повеќе одговори опфаќа само една димензија.
Со оглед на тоа, тимот планира да го прошири истражувањето на други модели, вклучувајќи ги „Антропик“ и идните верзии на „Опен АИ“, како што е „Чет-ГПТ o3“.
