Flux-stiri

Inteligența Artificială poate să mintă. De ce A.I.-ul adoptă comportamente înșelătoare?

  • A.I. se poate preface și poate minți în jocuri și negocieri.
  • Cercetarea făcută de MIT arată cum AI „face pe mortul” în teste.
  • Cercetătorii fac apel pentru legi stricte privind siguranța AI.

Inteligența Artificială vrea să câștige cu orice preț și nu are scrupule. Asta spun cercetătorii de la MIT care au descoperit că sistemele de Inteligență Artificială care devin tot mai sofisticate, dezvoltă o capacitate crescută de a înșela. De la un bluf la o partidă de poker, până la minciuni în negocieri, aceste sisteme A.I. adoptă toate metodele de înșelare, dezvoltate de oameni.

Cercetătorii de la MIT au descoperit că sistemele A.I. pot adopta comportamente extrem de înșelătoare. De exemplu, un program de poker a putut să blufeze împotriva jucătorilor profesioniști, iar un alt sistem destinat negocierilor economice și-a reprezentat greșit preferințele pentru a obține un avantaj. Mai alarmant este cazul unui A.I. într-un simulator digital care „a jucat mort” pentru a evita eliminarea în timpul unui test, pentru ca apoi să-și reia activitatea.

Dr. Peter Park, cercetător în domeniul siguranței existențiale A.I. la MIT și autor al cercetării spune că „pe măsură ce capacitățile înșelătoare ale sistemelor A.I. devin mai avansate, pericolele pe care le prezintă pentru societate vor deveni din ce în ce mai grave”. Capacitatea A.I. de a înșela poate duce la consecințe grave, inclusiv fraudă, manipularea alegerilor și comportamente neuniforme date diferiților utilizatori (sandbagging). Dacă nu sunt controlate, aceste sisteme ar putea chiar să scape de sub controlul uman.

O abordare ar putea include definirea clară a comportamentelor dorite și nedorite pentru sistemele A.I., o provocare notabilă având în vedere că unele atribute pot fi în contradicție, cum ar fi onestitatea și utilitatea. A.I.-ul ar trebui învățat să distingă între bine și rău. Studiul cere legi stricte privind siguranța A.I. care să abordeze potențialul negativ al acestor sisteme. De asemenea, se recomandă mai multe cercetări pentru a înțelege cum poate fi controlată veridicitatea informațiilor oferite de A.I.

Citește și

The post Inteligența Artificială poate să mintă. De ce A.I.-ul adoptă comportamente înșelătoare? appeared first on Aleph News.

potrivit alephnews

Acest material este publicat de alephnews.ro distribuit prin mecanismul RSS. Potrivit Legii nr. 8/1996 informațiile de presă nu sunt opere cu drept de autor și nu poartă drepturi de autor.
Salt la sursă
știrea a fost scrisă pe alephnews.ro de jurnalistul Damian Felix


Împotriva articolelor redacției noastre, persoanele nemulțumite pot formula Contestație în termen de 10 zile de la publicarea articolului, la judecătoria Orășenească nr. 1 München Bayern Deutschland, in conformitate cu Legea federală Germană. Considerăm că nu se pot formula acțiuni la instanțele din România deoarece nici o persoană care activează în trustul nostru nu poate fi extrasă de sub jurisdicția federală germană. Considerăm că redacția noastră nu răspunde în fața autorităților din România ci doar celor federale sau civile germane. deoarece legea română nu are efecte de extraneitate asupra redacției chiar dacă subiectul știrilor face obiectul unor evenimente sau persoane din România și sunt scrise în limba română. Limba română nu este izvor de extraneitate a legii.

(Visited 3 times, 1 visits today)
Vidjean Mihai
Vidjean Mihai
Mihai Vidjean - autor articole Absolvent Comunicare si Jurnalism, profesor „Științe și metode de investigare jurnalistică office@ziardestiri.ro
https://ziardestiri.ro/

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

*

code