AI, automatizare și securitate cibernetică

În acest articol ne vom concentra asupra aspectelor AI care sunt cele mai relevante pentru organizațiile de afaceri de astăzi, în special implicațiile sale pentru atacurile cibernetice, confidențialitate, IP și problemele de copyright.

Riscurile cibernetice ale inteligenței artificiale generativă

Există trei considerente principale atunci când luăm în considerare riscurile cibernetice ale utilizării AI: atacatori, confidențialitate și IP și drepturile de autor.

Atacatorii cibernetici
Pentru criminalii cibernetici, ChatGPT, GitHub Copilot și alte soluții AI generative nu oferă prea mult câștig suplimentar. Există anumite domenii în care instrumentele AI generative pot ajuta la lansarea unui atac, de exemplu prin construcție e-mailuri de phishing mai bune sau dinamice sau scriere de cod. ChatGPT, ca și celelalte instrumente AI generative, este un instrument de dezvoltare a conținutului informațional și nu o entitate conștientă. I se poate cere „Spune-mi toate modalitățile comune de a infecta o mașină.” Dar nu i se poate cere să „infecteze aceste mașini într-un mod inedit până acum”.

Codul malware sau textul din corpul mesajului unui e-mail de phishing reprezintă doar 1% din întregul efort necesar pentru a executa un atac cu succes. În timp ce AI ajută la multiplicarea numărului de atacuri și la implementarea comună în anumite zone ale lanțului de atac, nu automatizează nevoile end-to-end ale unui atacator cibernetic.

O considerație suplimentară sunt atacurile accidentale. Codul primit de la un instrument AI generativ și pus în producție nevalidat poate introduce din neatenție o nouă suprafață de atac sau poate provoca o întrerupere a afacerii.

Confidențialitate, pierdere de date și risc
Când vine vorba de confidențialitate, principalul aspect este modul în care ChatGPT poate fi utilizat de către angajați sau personal. Nu numai că ar putea să încarce documente sensibile sau să adreseze interogări care scurg informații corporative sensibile, dar informațiile și interogările pe care le fac pot fi, de asemenea, integrate înapoi în aplicația ChatGPT.

Angajații care folosesc inteligența artificială trebuie să se protejeze împotriva divulgării din neatenție a informațiilor corporative sensibile. Furnizarea de informații sensibile către programele AI generative are același efect ca oferirea acestor informații unei terțe părți. Informațiile introduse în programele AI, cum ar fi ChatGPT, devin parte din fondul său de cunoștințe. Orice abonat la ChatGPT are acces la acel set de date comun. Aceasta înseamnă că orice date încărcate sau întrebate pot fi apoi redate, în cadrul anumitor balustrade ale aplicației, înapoi altor terți care pun întrebări similare.

Învățarea să măsoare un sistem AI pentru a-l proteja împotriva părtinirii și a amestecării involuntare a datelor critice ale întreprinderii este esențială. Informațiile furnizate de sistemul AI trebuie verificate. Dezinformarea și părtinirea există prin Internet. Când vine vorba de AI, acești factori trebuie testați și corectați înainte ca oricare dintre datele primite de AI să fie folosită. Acest lucru este și mai important dacă compania folosește ChatGPT pentru scrierea codului. Este important pentru a înțelege că sistemele AI sunt măsurabile în ceea ce privește părtinirea și rezultatele lor și, în consecință, sunt previzibile în această măsură.

Probleme cu IP și drepturi de autor
Una dintre cele mai spinoase probleme legate de AI generativă este implicațiile sale pentru drepturile de proprietate intelectuală (IP), în special în ceea ce privește codul sau munca creativă folosind ChatGPT. Problemele nu sunt la fel de clare pe cât ar putea presupune unii. Dacă un dezvoltator de întreprindere creează cod folosind ChatGPT, acesta devine IP-ul organizației sau este considerat IP-ul internetului? Ce se întâmplă dacă codul creat de ChatGPT provine din două surse? Este o atribuire 50/50 sau o abrogarea IP-ului altui dezvoltator?

Întreprinderile care utilizează ChatGPT sau o soluție similară AI, cum ar fi GitHub Copilot, pentru a construi text sau cod, trebuie să înțeleagă originea textului sau codului respectiv, este posibil să nu fie lipsită de drepturi de autor. Ar putea integra cod în aplicații produc care nu sunt licențiați corespunzător. Ei ar putea republica text pe site-urile lor web în sau în documentație care este deja protejată prin drepturi de autor.

Prejudecăți, IP și scurgeri de date
Prejudecata este un atribut important al luării deciziilor atât în inteligența artificială, cât și în lumea noastră. Întreprinderile au nevoie de ajutor cu AI pentru a identifica sursele, pentru a crea bariere și pentru a oferi un context suplimentar în verificarea acurateții informațiilor lor AI.

Cele mai mari două preocupări ale organizațiilor de astăzi cu privire la AI implică IP:
• Se scurg datele mele?
• Cum controlez ceea ce învață sistemul meu din date?

Aceste răspunsuri le veti afla într-un articol ulterior.

SolvIT Networks este partener strategic pentru Europa Centrală și de Est al Broadcom.