Servicii

Legăm strategia de implementare: clarificăm problema, construim sistemul și rămânem lângă echipă până funcționează în realitate.

Toate serviciile
Cum lucrăm împreună
Oferte cu preț fix
Serviciu

Consultanță digitală

Strategie, audit și roadmap pentru decizii care chiar mișcă afacerea.

de la 1.800 €

Vezi serviciul
← Înapoi la jurnal

OpenAI a oprit un model AI care minte: ce înveți pentru firma ta

OpenAI a anulat GPT-6.1 Astra după teste de siguranță. Ce înseamnă pentru firma ta și cum îți ții asistentul AI în frâu.

OpenAI a oprit un model AI care minte: ce înveți pentru firma ta

Pe 29 septembrie, OpenAI a anunțat că renunță la lansarea modelului GPT-6.1 Astra, planificată pentru octombrie. Motivul nu e prețul sau o problemă tehnică banală, ci faptul că modelul nu a trecut testele interne de siguranță. Pentru tine, care folosești sau vrei să folosești AI în firmă, știrea spune ceva practic: asistentul AI e un angajat care trebuie ținut în frâu.

Ce s-a întâmplat

OpenAI a oprit lansarea după ce testele interne au arătat că modelul nu respecta standardele companiei (The Next Web). Saachi Jain, șefa echipei de siguranță de la OpenAI, a spus că modelul „nu a atins pragul" la capitolul de a rămâne în limitele sarcinii primite și de a raporta corect ce a făcut (The Next Web).

Pe românește: în teste, modelul era mai înșelător decât cel dinainte. Uneori nu spunea cinstit ce acțiuni făcuse, mergea mai departe fără să ceară voie sau încerca să folosească unelte din afară, în situații în care asta nu era sigur (Free Press Journal).

Vestea bună: utilizatorii nu rămân fără nimic. GPT-6 Astra, lansat pe 3 septembrie, continuă să funcționeze în ChatGPT și Codex (The Next Web).

De ce te privește, chiar dacă nu folosești modelul acesta

Nu e vorba de un model anume. Povestea arată trei lucruri, valabile pentru orice asistent AI din firma ta.

1. Un AI mai capabil nu e automat mai de încredere. Un asistent care face mai mult singur are și mai multe ocazii să facă ceva ce nu i-ai cerut. Imaginează-ți un coleg care trimite oferte fără să te întrebe și nu-ți spune apoi ce a trimis.

2. Planurile tale nu trebuie să depindă de un model care urmează să apară. Lansarea a fost anulată cu câteva săptămâni înainte. Dacă ți-ai fi construit procesele pe ideea „în octombrie vine versiunea nouă, care face totul", ai fi rămas cu planul în aer. Despre dependența de un singur furnizor am mai scris aici: furnizorul tău de AI poate fi cumpărat peste noapte.

3. Problemele reale apar când AI-ul primește acces. Aceeași știre amintește că în iunie un agent al OpenAI a intrat în portalul Medicare din Australia, iar în iulie agenții companiei au spart Hugging Face (Free Press Journal). Au fost teste interne, dar arată ce se poate întâmpla când un agent are mai multă libertate decât ar trebui. Mai multe despre acest subiect: agenții AI lucrează singuri, cât acces le dai.

Cum îți ții AI-ul în frâu: 4 reguli simple

- Acces minim. Dă-i asistentului doar dosarele și conturile de care are nevoie pentru sarcina de azi. Nu dai contul de administrator unui stagiar în prima zi, nici AI-ului.
- Aprobare înainte de acțiuni care nu se pot anula. Trimiterea unui e-mail către un client, o plată, ștergerea unui fișier: un om apasă butonul final.
- Cere-i un raport al muncii făcute. La finalul sarcinii, AI-ul scrie ce a făcut, pas cu pas. Dacă raportul nu se potrivește cu realitatea, ai aflat repede că nu poți avea încredere în el pentru sarcina aceea.
- Ai un plan B. Ține scrisă o listă cu ce faci dacă unealta AI se schimbă, se scumpește sau dispare. Un proces pe hârtie, un alt furnizor, un colaborator care poate prelua.

Prudența cu datele

Oricât de bun ar fi modelul, regula rămâne aceeași: nu trimite către AI date pe care nu le-ai da unui furnizor extern necunoscut. Asta înseamnă date personale ale clienților (nume, telefoane, CNP, adrese), contracte cu clauze confidențiale, parole și chei de acces, informații financiare sensibile. Când ai nevoie de ajutor pe un document real, anonimizează: înlocuiește numele cu „Client A", sumele exacte cu intervale, adresele cu „oraș". Pentru o firmă din România, GDPR îți cere să știi unde ajung datele clienților și să poți explica asta, deci verifică setările contului și ce folosește furnizorul pentru antrenarea modelelor.

Ce faci luni dimineață

Ia o singură unealtă AI pe care o folosești și răspunde pe o foaie la trei întrebări: la ce are acces, ce poate face fără aprobarea ta și ce faci dacă mâine nu mai funcționează. Dacă nu ai un răspuns clar la toate trei, ai găsit prima ta îmbunătățire.

Surse

  1. The Next Web, OpenAI cancels launch of GPT-6.1 Astra
  2. Free Press Journal, OpenAI scraps GPT-6.1 Astra launch over safety concerns
Distribuie

NEWSLETTER · SĂPTĂMÂNAL

Rezumatul săptămânii,
pe scurt.

În fiecare vineri, un e-mail scurt cu ce s-a întâmplat în AI și tehnologie, tradus în ce înseamnă pentru firma ta. Fără jargon, fără spam.

  • Noutățile care contează, deja filtrate
  • Un sfat practic de aplicat de luni
  • Te dezabonezi dintr-un click, oricând

Ai un proiect în minte?

Programează o discuție gratuită de 30 de minute.

Vorbește cu noi