admin 
„Amazon Web Services“ (AWS), „Amazon“ debesų kompiuterijos padalinys, pristato naują įrankį kovai su haliucinacijomis – tai yra scenarijais, kai dirbtinio intelekto modelis veikia nepatikimai.
Paskelbta AWS konferencijoje „Re:Invent 2024“ Las Vegase, paslauga „Automated Reasoning Checks“ patvirtina modelio atsakymus, kryžmines nuorodas į klientų pateiktą informaciją, kad būtų užtikrintas tikslumas. AWS pranešime spaudai teigia, kad automatiniai samprotavimų patikrinimai yra „pirma“ ir „vienintelė“ apsauga nuo haliucinacijų.
Bet tai, na… dosniai tariant.
Automatinės samprotavimo patikros yra beveik identiškos koregavimo funkcijai, kurią „Microsoft“ pristatė šią vasarą, kuri taip pat pažymi AI sugeneruotą tekstą, kuris iš tikrųjų gali būti klaidingas. „Google“ taip pat siūlo įrankį Vertex AI, savo AI kūrimo platformoje, leidžiantį klientams „įžeminti“ modelius naudojant duomenis iš trečiųjų šalių tiekėjų, savo duomenų rinkinius arba „Google“ paiešką.
Bet kokiu atveju, automatinės samprotavimo patikros, kurios pasiekiamos per AWS „Bedrock“ modelių prieglobos paslaugą (ypač „Guardrails“ įrankį), bando išsiaiškinti, kaip modelis gavo atsakymą, ir nustatyti, ar atsakymas yra teisingas. Klientai įkelia informaciją, kad nustatytų pagrindinę tiesą, o automatinis samprotavimas patikrina ir sukuria taisykles, kurias vėliau galima patobulinti ir pritaikyti modeliui.
Kadangi modelis generuoja atsakymus, automatinės samprotavimo patikros juos patikrina ir, jei tikėtinos haliucinacijos, remdamosi pagrindine tiesa, ieško teisingo atsakymo. Šis atsakymas pateikiamas kartu su galimu klaidingumu, kad klientai galėtų pamatyti, kiek nutolęs modelis galėjo būti.
AWS teigia, kad „PwC“ jau naudoja automatizuotus argumentavimo patikrinimus, kad sukurtų savo klientams dirbtinio intelekto asistentus. O Swami Sivasubramanianas, AWS AI ir duomenų viceprezidentas, teigė, kad būtent tokio tipo įrankiai pritraukia klientus į Bedrock.
„Paleidę šias naujas galimybes“, – sakė jis, – „klientų vardu diegiame naujoves, kad išspręstume kai kuriuos svarbiausius iššūkius, su kuriais susiduria visa pramonė, perkeldami generatyviąsias AI programas į gamybą“. „Bedrock“ klientų skaičius per praėjusius metus išaugo 4,7 karto iki dešimčių tūkstančių klientų, pridūrė Sivasubramanianas.
Tačiau, kaip šią vasarą man pasakė vienas ekspertas, bandymas pašalinti haliucinacijas iš generatyvaus AI yra tas pats, kas bandyti pašalinti vandenilį iš vandens.
AI modeliai haliucinuoja, nes iš tikrųjų nieko „nežino“. Tai statistinės sistemos, kurios nustato duomenų sekos modelius ir pagal anksčiau matytus pavyzdžius numato, kurie duomenys bus pateikti toliau. Iš to išplaukia, kad modelio atsakymai yra ne atsakymai, o prognozės, kaip kelia klausimus turėtų turi būti atsakyta – paklaidos ribose.
AWS teigia, kad automatinės samprotavimo patikros naudoja „logiškai tikslius“ ir „patikrinamus argumentus“, kad padarytų savo išvadas. Tačiau bendrovė savanoriškai nepateikė duomenų, rodančių, kad įrankis yra patikimas.
Kitose Bedrock naujienose AWS šįryt paskelbė apie modelio distiliavimą – įrankį, skirtą didelio modelio (pvz., Llama 405B) galimybėms perkelti į mažą modelį (pvz., Llama 8B), kuris yra pigesnis ir greitesnis. Atsakymas į „Microsoft“ distiliavimą Azure AI liejykloje, modelio distiliavimas suteikia galimybę eksperimentuoti su įvairiais modeliais nepažeidžiant banko, teigia AWS.
„Kai klientas pateiks raginimų pavyzdžius, „Amazon Bedrock“ atliks visą darbą, kad sugeneruotų atsakymus ir sureguliuotų mažesnį modelį“, – tinklaraščio įraše paaiškino AWS, „ir netgi gali sukurti daugiau pavyzdinių duomenų, jei reikia, kad užbaigtų distiliavimo procesas“.
Tačiau yra keletas įspėjimų.
Modelis distiliavimas šiuo metu veikia tik su Bedrock priglobtais Anthropic ir Meta modeliais. Klientai turi pasirinkti didelį ir mažą modelį iš tos pačios modelių „šeimos“ – modeliai negali būti iš skirtingų tiekėjų. Ir distiliuoti modeliai praras tam tikrą tikslumą – „mažiau nei 2%,“ teigia AWS.
Jei tai jūsų neatbaido, dabar galima peržiūrėti modelio distiliavimą kartu su automatinėmis samprotavimo patikromis.
Peržiūros režimu taip pat galima naudotis „kelių agentų bendradarbiavimu“, nauja „Bedrock“ funkcija, leidžiančia klientams priskirti AI papildomoms didesnio projekto užduotims. Dalis „Bedrock Agents“, AWS indėlis į AI agentų pamišimą, kelių agentų bendradarbiavimas suteikia įrankių, leidžiančių kurti ir suderinti AI, pavyzdžiui, finansinių įrašų peržiūrą ir pasaulinių tendencijų vertinimą.
Klientai netgi gali paskirti „prižiūrėtojo agentą“, kuris automatiškai suskaidytų ir nukreiptų užduotis į AI. Vadovas gali „(suteikti) konkretiems agentams prieigą prie informacijos, kurios jiems reikia darbui užbaigti“, – sako AWS, ir „(nustatyti), kokius veiksmus galima atlikti lygiagrečiai ir kuriems reikia informacijos iš kitų užduočių, kad agentas galėtų judėti. pirmyn“.
„Kai visi specializuoti (AI) įveda savo įvestį, priežiūros agentas (gali surinkti) informaciją (ir) susintetinti rezultatus“, – rašė AWS.
Skamba dailiai. Tačiau, kaip ir visos šios funkcijos, turėsime pamatyti, kaip gerai ji veikia, kai bus įdiegta realiame pasaulyje.
