Nová štúdia varuje, že bude nemožné predvídať kroky umelej inteligencie, čo nateraz vyvoláva ďalšie otázky. Výskum poukazuje na hrozbu, že ľudia môžu čoskoro stratiť kontrolu nad robotmi. Pracovali na ňom vedci z inštitútu Max-Planckov a v týchto dňoch publikovali svoje výsledky.
Vedci zistili, že na to, aby bolo možné presne predpovedať správanie umelej inteligencie, by vedci museli vykonať presnú simuláciu systému a tiež výkonu, ktorý bude neustále narastať, keďže systémy umelej inteligencie (AI) budú čoraz vyspelejšie. Veľká časť štúdie bola postavená na otázke či je možné stroje zastaviť pomocou algoritmov zadržiavania – testov, ktoré je možné použiť na programy, aby ich bolo možné efektívne vypnúť zachytením v ich cykle.
Problém je v tom, že súčasné pokročilé systémy umelej inteligencie sú oveľa sofistikovanejšie ako tie, ktoré spomínanými testami prešli. Znamená to tiež to, že prerušovače prúdu určené na zastavenie umelej inteligencie môžu byť v budúcnosti úplne bezmocné. Iyad Rahwan, výskumný pracovník v inštitúte Max-Planckov uviedol, že „schopnosť moderných počítačov prispôsobiť sa pomocou sofistikovaných algoritmov strojového učenia ešte viac sťažuje predpoklady o možnom správaní sa AI.
Podľa vedúceho štúdie Manuela už teraz existujú stroje, ktoré vykonávajú dôležité úlohy nezávislé od toho, aby programátori úplne pochopili ako sa to naučili.
