Мицрософт је додао бројне безбедносне функције у Азуре АИ Студио које би током времена требало да наставе да смањују вероватноћу да њени корисници конфигуришу АИ моделе у режим који би их натерао да се понашају ненормално или неприкладно. Мултинационална технолошка компанија са седиштем у Редмонду, Вашингтон је изнео побољшања у посту на блогу, наглашавајући гарантовање интегритета интеракција вештачке интелигенције и подстицање поверења у базу корисника.
Брзи штитови и још много тога
Међу главним развојем је стварање „брзих штитова“, технологије која је дизајнирана да пронађе и убије брзе ињекције док разговара са АИ цхатботовима. Ово су такозвани јаилбреакови и у основи су инпути корисника који се намерно формирају на такав начин да изазову нежељени одговор од АИ модела.
На пример, Мајкрософт игра своју улогу индиректно брзим ињекцијама, где је могуће извршавање злих налога, а такав сценарио може довести до озбиљних безбедносних последица попут крађе података и отмице система. Механизми су кључни за откривање и реаговање на ове јединствене претње у реалном времену, каже Сара Бирд, Мицрософт-ов главни производни директор за одговорну вештачку интелигенцију.
Мицрософт додаје да ће ускоро бити упозорења на екрану корисника, која ће указати на то када је вероватно да ће модел изражавати лажне или обмањујуће информације, чиме ће се обезбедити више приступачности и поверења.
Изградња поверења у АИ алате
Напор Мицрософта је део веће иницијативе, чији је циљ да људима пружи поверење у све популарнију генеративну вештачку интелигенцију која се интензивно примењује у услугама намењеним индивидуалним потрошачима и корпоративној клијентели. Мицрософт је прошао кроз чешаљ са финим зупцима, након што је направио инстанце, при чему су корисници имали могућност да натерају Цопилот цхатбот-а да производи бизарне или штетне резултате. Ово ће бити у прилог резултату који показује потребу за снажном одбраном од поменутих манипулативних тактика, које ће вероватно порасти са АИ технологијама и популарним знањем. Предвиђање, а затим ублажавање је у препознавању образаца напада, као што је случај када нападач понавља испитивање или подстиче у игрању улога.
Као највећи инвеститор и стратешки партнер ОпенАИ-а, Мицрософт помера границе како да угради и створи одговорне, безбедне генеративне АИ технологије. И једни и други су посвећени одговорној имплементацији и основним моделима Генеративне АИ за мере безбедности. Али Бирд је признао да ови велики језички модели, чак и када ће се сматрати основом за већину будућих иновација АИ, нису отпорни на манипулацију.
Изградња на овим основама захтева много више од ослањања на саме моделе; био би потребан свеобухватан приступ безбедности и безбедности вештачке интелигенције.
Мицрософт је недавно најавио јачање безбедносних мера за свој Азуре АИ Студио како би показао и гарантовао проактивне кораке који се предузимају у циљу заштите променљивог пејзажа АИ претњи.
Настоји да избегне злоупотребе вештачке интелигенције и сачува интегритет и поузданост интеракције вештачке интелигенције тако што ће укључити правовремене екране и упозорења.
Уз сталну еволуцију АИ технологије и њено усвајање у многим инклузијама свакодневног живота, биће крајње време да Мицрософт и остатак АИ заједнице задрже веома опрезан безбедносни став.
Извор: хттпс://ввв.цриптополитан.цом/мицрософт-аи-цхатбот-сецурити-то-трицкстерс/