1) Proč se věnujeme oboru AI Safety? a) Abychom mohli komunikovat spotřebitelům, že se problematikou zabýváme zodpovědně b) Abychom působili preventivně v oblasti nehodovosti AI systémů c) Abychom působili preventivně v oblasti zneužívání AI systémů d) Abychom byli schopni pochopit škodlivé důsledky vyplývající z používání AI systémů e) Abychom předešli zdražování některých AI systémů 2) Jaké další disciplíny, témata či obory zahrnuje AI safety? a) Právo b) Monitorování rizik c) Etiketa d) Sociální a humanitní vědy e) Ekonomie f) Ochrana soutěže 3) Co je to AI Act alignment a) Snaha o uvedení naší AI problematiky do souladu s novou AI legislativou b) Snaha o správnou interpretaci práva pouze do oboru AI Safety 4) Kdy se vyrojily první obavy ohledně bezpečnosti AI systémů? a) Již ve 40. letech 20. století po konferenci v Dartmouthu b) s nástupem expertních systémů c) s nástupem systému ELIZA d) až po založení organizace IEEE 5) Kteří vědci a známé osobnosti varují před tím, že AI může překonat lidskou inteligenci? a) Stehpen Hawking b) Sam Altman c) Marcel Scarth d) Elon Musk 6) Kterou z kvalit nejlépe popisuje "robustnost"? a) Schopnost flexibility při situacích, na kterých se systém učil b) Schopnost fungovat správně i v neznámých a nepředvídaných situacích c) Schopnost systému poskytovat konzistentní a přesné výsledky d) Schopnost poskytovat výsledky, které jsou dobře interpretovatelné 7) Proč je podstatná oveřitelnost? a) Aby se ze systému nestal black box b) Abychom se mohli zpětně vracet k postupům, na základě AI systém např. učinil rozhodnutí c) Abychom mohli funkčnost systému jednoduše komunikovat 8) Proč jsou adversariální útoky tak nebezpečné? a) Protože jsou velmi špatně rozpoznatelné b) Protože jsou mezi námi teprve několik měsíců c) Protože mohou mít obrovské dopady d) Protože je možné proti nim bojovat jen jedním způsobem 9) Doplň větu: evasion attacks... a) ...jsou útoky, které se snaží obejít detekční mechanismy AI systémů b) ... jsou útoky, které se snaží manipulovat s tréninkovými daty, aby ovlivnily chování modelu c) ... jsou útoky, které se snaží rekonstruovat vstupní data z modelu 10) Doplň větu: Nejběžnějším typem AÚ jsou... a) ... black-box útoky b) ... gradient-based útoky 11) Doplň větu: Nejnebezpečnějším typem AÚ jsou... a) ...gradient-based útoky b) ...black-box útoky 12) Gradient-based útoky a) se snaží najít malé změny ve vstupních datech a díky tomu model udělá chybu b) nevyžadují znalost interní struktury, ale útočníci vidí pouze výstupy a vstupy 13) Může se AÚ projevit i manipulací hlasových asistentů Siri, Alexa apod.? a) ANO b) NE 14) Jak může AÚ nejjednodušeji zamotat hlavu samoříditelnému autu? a) Překreslí mu rozšířenou realitu b) Namaluje mu falešné horizontální značky c) Bude manipulovat s vertikálními dopravními značkami d) Bude manipulovat s funkcionalitou čtení registračních značek 15) Která z metod obrany proti AÚ je účinná, ale mimořádně časově a výpočetně náročná? a) Defensive distillation b) Detection mechanisms c) Adversarial training 16) Co jsou to adversariální pertubace a) Velké změny, které mohou ovlivnit a poškodit systém nevratným způsobem b) Malé a často nepostřehnutelné změny vstupních dat c) Způsobují významné změny ve výstupech modelu d) Využívají slabiny modelů strojového učení e) Ovlivňují pouze ty systémy, které fungují na principu neuronových sítí f) Pro lidské oko jsou téměř neviditelné 17) Co pomáhají AÚ dělat: a) obcházet spam filtry b) řešit CAPTCHU c) oklamat face recognition systémy d) naprogramovat těžko detekovatelný malware e) odstraňovat oblečení z fotek žen 18) Co vykonává Centrum pro AI bezpečnost? (CAS) a) Vydává prohlášení podepsaná předními vědci b) Snaží se komunikovat zmírňování rizik vyhynutí v důsledku AI c) Zasluhuje se o to, aby byla AI rizika vnímána daleko urgentněji, než jaderná katastrofa d) Komunikuje, že by AI bezpečnost měla být celosvětovou prioritou 19) Současné AI systémy postrádají... a) ...flexibilitu b) ...sebeuvědomění c) ...vědomí d) ...schopnost samostatně se učit e) ...schopnost být nad úrovni lidské kognice 20) Mezi kritické oblasti AI Safety nepatří: a) Ochrana soukromí a osobních údajů b) Etický vývoj a nasazení AI c) Robustnost a adaptovatelnost d) Transparentnost a interpretovatelnost 21) AI for Safety se zabývá... a) ... využitím AI technologií k zajištění bezpečnosti v různých oblastech b) ... využití AI technologií k zajištění zabezpečení v různých oblastech 22) Jaké disciplíny patří do oblasti AI for Safety? a) Kybernetická bezpečnost b) Ochrana kritické infrastruktury c) Prevence kriminality, terorismu d) Ochrana měkkých cílů 23) AI se v oblasti kybernetické bezpečnosti může použít: a) k analýze textu emailů b) k analýze síťového provozu c) k automatizovanému naprogramování obranného mechanismu d) k ochraně koncových bodů pomocí prediktivní analýzy 24) Co je to princip 4 očí a) Na systém musí dohlížet 2 různé osoby, aby systém nebyl schopen rozhodovat bez dozoru b) Dobrovolný princip k zajištění dozoru nad systémy c) Podmínka zmíněná v AI Actu 25) Identifikujeme jiná rizika pro klasické AI systémy a jiná pro systémy obecné umělé inteligence (AGI)? a) Ano, jedná se o dva různé obory b) Ne, stále se jedná o umělou inteligenci, rizika musí být posuzována totožně 26) Jaká rizika v oblasti AI Safety rozlišujeme:  a) rizika krátkodobá a dlouhodobá b) rizika chybovostí, rizika akcidentní c) rizika nehodou a rizika zneužitím d) rizika neřešitelná a rizika zvládnutelná 27) Jsem schopen dát agentovi finální výčet priorit? a) Ne, to nelze b) Ano, stanovím mu základní a poté doplňkové priority, které ho mohou regulovat 28) Co je to konvergentní cíl agenta? a) nezáleží na tom, jaký je náš cíl, ale pokud jsme zničeni, nemůžeme toho cíle dosáhnout b) vylepšení sebe samého c) zachování cíle d) sebezachování e) zajištění zdrojů f) získání sušenky 29) Kolik vody stojí jedna interakce s chatbotem v průměru? a) 0,02l b) 0,5l c) 1l d) 1,5l e) 20l 30) Existuje v USA nějaký federální zákon, který by chránil občany před poškozením soukromí způsobeným AI? a) ANO, již od roku 2022 b) Ne 31) Čemu se říká "Kalašnikovy zítřka"? a) Autonomním zbraním b) Automatickým zbraním 32) Jakou zkratku má obecná inteligence? a) AGI b) GenAI c) AIGen d) AgenI 33) Teorie propojených mozků a) povede k tomu, že si stáhneme jakékoliv poznatky z internetu přímo do mozku b) povede k navýšení individuality c) povede k tomu, že se nám hacknutím může dostat kdokoliv do mozku

AI Safety

av
Skriv ut
Bädda in

Rankningslista

Visuell stil

Alternativ

Växla mall

Återställ sparas automatiskt: ?