Drony a samořídící auta jako zbraně: proč se musíme bát hackerů

2024 Autor: Malcolm Clapton | [email protected]. Naposledy změněno: 2023-12-17 03:50

Pokud se umělá inteligence dostane do nesprávných rukou, civilizovaný svět se může ponořit do chaosu.

Nikdo nebude popírat, že umělá inteligence může posunout naše životy na další úroveň. AI je schopna vyřešit mnoho problémů, které jsou nad lidské síly.

Mnozí se však domnívají, že nás superinteligence bude chtít určitě zničit, jako SkyNet, nebo začne provádět experimenty na lidech, jako je GLADoS ze hry Portal. Ironií je, že pouze lidé mohou udělat umělou inteligenci dobrou nebo zlou.

Výzkumníci z Yale University, Oxfordu, Cambridge a OpenAI zveřejnili zprávu o zneužívání umělé inteligence. Říká se, že skutečné nebezpečí pochází od hackerů. Pomocí škodlivého kódu mohou narušit chod automatizovaných systémů pod kontrolou AI.

Výzkumníci se obávají, že dobře míněné technologie budou poškozeny. Například sledovací zařízení lze použít nejen k dopadení teroristů, ale také ke špehování běžných občanů. Výzkumníci se také obávají komerčních dronů, které doručují jídlo. Je snadné je zachytit a zasadit něco výbušného.

Dalším scénářem destruktivního použití AI jsou samořídící auta. Stačí změnit pár řádků kódu a stroje začnou ignorovat bezpečnostní pravidla.

Vědci se domnívají, že hrozba může být digitální, fyzická a politická.

• Umělá inteligence se již využívá ke studiu zranitelností různých softwarových kódů. V budoucnu mohou hackeři vytvořit bota, který obejde jakoukoli ochranu.
• S pomocí AI může člověk automatizovat mnoho procesů: například ovládat roj dronů nebo skupinu aut.
• Pomocí technologií jako je DeepFake je možné ovlivňovat politický život státu šířením nepravdivých informací o světových vůdcích pomocí botů na internetu.

Tyto děsivé příklady zatím existují pouze jako hypotéza. Autoři studie nenavrhují úplné odmítnutí technologie. Místo toho věří, že národní vlády a velké společnosti by se měly postarat o bezpečnost, dokud je průmysl umělé inteligence stále v plenkách.

Tvůrci politik musí studovat technologie a spolupracovat s odborníky v oboru, aby efektivně regulovali vytváření a používání umělé inteligence.

Vývojáři zase musí vyhodnotit nebezpečí, které představuje špičková technologie, předvídat nejhorší následky a varovat před nimi světové vůdce. Zpráva vyzývá vývojáře AI, aby se spojili s bezpečnostními experty v jiných oblastech a zjistili, zda lze principy, které zajišťují bezpečnost těchto technologií, použít k ochraně umělé inteligence.

Celá zpráva popisuje problém podrobněji, ale podstatou je, že AI je mocný nástroj. Všechny zainteresované strany by si měly novou technologii prostudovat a ujistit se, že není používána pro kriminální účely.