Cercetătorii de la Stanford elimină IA din alpaca din cauza „halucinațiilor” și a costurilor ridicate

Thomas German

Postat acum 2 ore: 22 martie 2023 la ora 3:31

Cercetătorii de la Universitatea Stanford au eliminat un chatbot de scurtă durată care a profitat de Meta LLaMA AI, alias Alpaca AI. Cercetătorii au lansat Alpaca cu o demonstrație publică, oricine l-ar putea încerca săptămâna trecută, dar modelul a fost rapid offline datorită costurilor în creștere, preocupărilor legate de siguranță și „halucinațiilor”, cuvântul pe care comunitatea AI s-a stabilit atunci când un chatbot anunță cu încredere informații false. Visând la o realitate care nu există.

Alături de demonstrația interactivă, Institutul pentru Inteligența Artificială Centrată pe Om de la Stanford a publicat și datele de antrenament ale lui Alpaca, codul pentru procesul său de generare a datelor și codul de antrenament folosit pentru a ajusta modelul, conform Buturuga.

în Comunicat de presă Anunțând lansarea inițială a lui Alpaca, autorul principal Rohan Tauri, un doctorand în informatică la Stanford, a recunoscut că testarea publică prezintă riscuri. „Publicarea unei demonstrații interactive a lui Alpaca prezintă, de asemenea, riscuri potențiale, cum ar fi răspândirea mai largă a conținutului rău intenționat și scăderea barierei către spam, fraudă sau dezinformare”, au spus cercetătorii. Tauri a spus că echipa a implementat un filtru de conținut și un sistem de filigranare care poate identifica cuvintele alpaca pentru a atenua aceste riscuri.

Niciun cuvânt despre exact ce a mers prost. „Scopul inițial al lansării demo-ului a fost să publicăm cercetările noastre într-un mod accesibil. Considerăm că am atins în mare parte acest obiectiv și, având în vedere costurile noastre de găzduire și deficiențele filtrelor noastre de conținut, am decis să întrerupem demo-ul, ” a declarat un purtător de cuvânt al departamentului. Institutul Stanford Human-Centered AI nu a răspuns imediat unei solicitări de comentarii.

În ciuda eșecurilor sale evidente, Alpaca are unele aspecte interesante care fac din proiectul de cercetare unul interesant. Costurile lor inițiale scăzute sunt deosebit de remarcabile. Cercetătorii au cheltuit doar 600 de dolari (833 de dolari) pentru a-l rula și au condus AI folosind mașini de putere redusă, inclusiv computere Raspberry Pi și chiar un smartphone Pixel 6, spre deosebire de supercomputerele Microsoft de milioane de dolari.

Nu mai puteți accesa o copie funcțională a lui Alpaca, dar codul și datele care stau la baza rulează încă github.

„Încurajăm utilizatorii să ne ajute să identificăm noi tipuri de eșecuri raportându-le în demo-ul web”, au spus cercetătorii într-un comunicat de presă. „În general, sperăm că lansarea de alpaca va facilita cercetările suplimentare privind modelele de urmărire a instrucțiunilor și alinierea acestora la valorile umane.”

Doriți să aflați mai multe despre inteligența artificială, chatbot și viitorul învățării automate? Consultați acoperirea noastră completă a inteligenţă artificialăsau răsfoiți ghidurile noastre către Cele mai bune generatoare de artă AI gratuite Și Tot ce știm despre ChatGPT de la OpenAI.

Nota editorului: Datele de lansare din acest articol sunt în SUA, dar vor fi actualizate cu datele locale din Australia de îndată ce vom afla mai multe.