Zabíjajúce roboty už nezastavíme
Premeškali sme poslednú šancu na to, aby sme zastavili rozsiahle nasadenie umelej inteligencie do ozbrojených automatov, ktoré môžu rozhodovať o tom, či majú vystreliť na cieľ alebo nie.
Takzvané zabijacké roboty (od "killer robots") - teda stroje, ktoré rozhodujú o zničení cieľa bez priameho pokynu od ľudskej bytosti, navždy zmenia podobu vojny, a takmer všetky scenáre vedú k horšiemu výsledku.
Výskum prebieha už niekoľko rokov a už dnes sú rozbehnuté výskumné projekty za miliardy dolárov po celom svete. Praktické nasadenie podobných systémov je však ešte ojedinelé a mali sme možnosť ho zastaviť.
OSN pravidelne aktualizuje dohodu o tom, aké konvenčné zbrane sú vykázané z vojnového konfliktu, ktorý vedú civilizované krajiny. Patria sem napríklad míny mrzačiace vojakov aj civilistov alebo niektoré druhy zápalnej munície, ktoré spôsobujú hrozné zranenia. Podarilo sa dosiahnuť zhodu na tom, že aj keď tieto zbrane môžu byť užitočné, ich brutálnosť a riziká ich vykazujú z civilizovaného arzenálu.
V decembri sa na rokovaniach v Ženeve nepodarilo dosiahnuť zhodu na tom, aby na zoznam pribudli aj autonómne systémy. Ďalšie podobné stretnutie a možnosť upraviť zoznam prebehne až o päť rokov, čo už bude neskoro. Výskum bude príliš ďaleko a štáty utratia príliš veľa peňazí na to, aby sa zabijackých systémov vzdali. Trend bude príliš rozbehnutý na to, aby sa dal zastaviť diplomaticky.
Prečo je zle, keď necháme bojovať roboty? Dôvodov je viacero. Dobre ich zhrnul James Dawes pre web Conversation. Stručný prehľad:
- Na bojisku sa stanú chyby, no ak zlé rozhodnutie spraví človek, je izolované. Ak bude zlé rozhodnutie výsledkom uvažovania umelej inteligencie, môže sa týkať ohromného množstva nasadených systémov a spôsobiť rádovo väčšie škody.
- Pravidlá a zákony vojny majú dnes jasne definované, kto a kedy nesie zodpovednosť. Kto ale ponesie zodpovednosť za prípadné porušenia ľudských práv robotom? Výrobca, armádny dôstojník, najbližší ľudský operátor zariadenia? Nevieme.
- Rozbehne sa nové kolo zbrojenia. Umelá inteligencia dáva systémom ohromnú výhodu v rýchlosti a efektivite. Ak ju začne používať jedna krajina, ostatné budú musieť systémy používať tiež, aby ostali konkurencieschopné, čo povedie k vyššiemu riziku, že narazíme na problémy v predchádzajúcich dvoch bodoch.
- Ak sa umelá inteligencia rozšíri naozaj masovo, časom sa stane taká lacná, že ju budú môcť využívať aj neštátni aktéri - rozumejte teroristi, čo povedie k úplne novej kategórii bezpečnostných rizík.
Ak chcete vedieť, ako výskum v praxi vyzerá a ako budú do systému zapadať ľudia, odporúčame reportáž, v ktorej New Yorker opisuje vývoj umelej inteligencie pre vojenské lietadlá.
(New Yorker, The Conversation)
Google predstavil ďalšiu náhradu cookies
V roku 2019 Google oznámil svoj plán pre budúcnosť bez podpory súborov cookies. Vyhľadávací gigant cíti tlaky zo všetkých strán pre obavy o súkromie. Plánom bolo predstaviť alternatívu, ktorá by mohla potešiť obhajcov súkromia a regulátorov na celom svete.
Prvým pokusom bol systém FLoC, teda Federated Learning of Cohorts, ktorý bol tvrdo kritizovaný mnohými odborníkmi, pravdepodobne najviac neziskovou organizáciou Electronic Frontier Foundation.
Cez týždeň Google oznámil, že opúšťa myšlienku používania FLoC a predstavil nový systém – Topics API.
Topics (témy) fungujú tak, že na základe online aktivity počas jedného týždňa určia päť vašich záujmov ako napríklad "fitness" alebo "cestovanie a doprava". K celému procesu dochádza na zariadení a nie sú na to používané dáta posielané na Google server.
Výsledkom je, že inzerenti môžu cieliť iba na spomínané témy. Tých majú byť tisícky, dnes je ich 350. Google hovorí, že nebudú zahŕňať žiadne citlivé kategórie, ako sú rasa alebo pohlavie.
Prvé reakcie na seba nenechali dlho čakať a ozvali sa najmä inzerenti a experti v oblasti adtechu (reklamné technológie), ktorí Topics považujú za veľmi všeobecné cielenie. Dnes sú inzerenti zvyknutí cieliť reklamu na zákazníkov cez internet vďaka cookies veľmi podrobne a Topics nevidia ako dostatočnú náhradu.
Denník The Washington Post vo svojom hodnotení uvádza, že výsledkom nového systému bude ešte väčšia kontrola Googlu.
Z pohľadu používateľov však nemusí ísť o zlý nápad, najmä čo sa týka ochrany súkromia, ale tiež to prispeje len k ďalšej centralizácii a upevneniu moci jedného z technologických gigantov.
Systém Topics sa aktuálne testuje a musíme si počkať aj na prvé hodnotenia nezávislých výskumníkov.
Čína plánuje počas zimnej olympiády vo veľkej miere využívať svoju technológiu na kontrolu počasia
Minulý mesiac bol roky pripravovaný program na ovplyvňovanie počasia oficiálne spustený (podobný program skúšali Spojené štáty počas vojny vo Vietname, predĺžiť monzúnové obdobie).
Čína využíva napríklad tzv. "cloud-seeding", ktorý funguje na princípe, že jodid priťahuje kvapky vody a to pretvára oblaky a zvyšuje pravdepodobnosť dažďa.
Technológiu mala Čína vo väčšej miere testovať minulý rok na oslavy storočnice komunistickej strany. Deň pred oslavami vystrelili disperzné rakety do ovzdušia, ktoré spustili dážď, ktorý mal vyčistiť ovzdušie, aby na druhý deň bolo pekne a ľudia sa mohli zhromaždiť.
Samozrejme, okolité krajiny a viacerí vedci majú obavy, aké následky môže mať takéto ovplyvňovanie. Niektorí naopak tvrdí, že je to len marketing za veľa peňazí s malým efektom.
Situácii sa podrobne venuje denník The Washington Post.
Bezpečnostné riziká a súkromie zariadení na olympiáde v Číne
Odborníci z výskumného centra Citizen Lab na kybernetickú bezpečnosť a ľudské práva na Torontskej univerzite v Kanade zverejnili 18. januára správu, v ktorej varujú, že oficiálna olympijská aplikácia MY2022 nie je dostatočne zabezpečená.
Pre hackerov je zašifrovaný systém pomerne jednoducho prelomiteľný a môžu sa tak dostať k osobným spisom či správam všetkých užívateľov.
Spomínanú aplikáciu si musia nainštalovať športovci, ich tréneri či novinári, ktorí sa plánujú zúčastniť na olympiáde. Tí, ktorí cestujú zo zahraničia, tak musia urobiť najmenej dva týždne pred príchodom.
Účastníci hier musia do aplikácie povinne nahrať vyplnený formulár, ktorý obsahuje informácie o ich zdravotnom stave a miesta, ktoré v poslednom čase navštívili.
Peking tvrdí, že dôvodom je trasovanie pohybu športovcov v pandemickej situácii, ktorým sa chce uistiť, že dodržiavajú opatrenia. Zároveň majú do aplikácie nahrávať príznaky koronavírusu, aby úrady vedeli včas predísť prípadnému rozšíreniu nákazy.
Výskumníci pripúšťajú, že Čína možno chyby v aplikácii neurobila naschvál. Napriek tomu účastníkom odporúčajú, aby radšej svoje osobné elektronické zariadenia – telefóny a notebooky, ktoré pravidelne používajú – nechali doma.
Okrem toho však aplikácia slúži aj ako sprievodca hrami či chat. V súvislosti s druhou funkciou výskumníci odhalili, že v aplikácii je nainštalovaný zoznam „nezákonných slov“.
Nachádza sa medzi nimi 2 442 termínov odkazujúcich na Tibet a Taiwan, ktoré považuje Čína za súčasť svojho územia, či potlačenie protestov z námestia Nebeského pokoja v roku 1989. Cenzúra však nie je nateraz aktivovaná.
Ak vás baví čítať tento newsletter, skúste aj ďalšie
? FWIW by David Tvrdon: Týždenný newsletter písaný po anglicky o technologických novinkách, médiách a informácií ohľadom podcastov. Odoberať >
? Herný update: Newsletter o hrách a ľuďoch, ktorí ich tvoria. Každú stredu ho píšu Martin Juruš a Ondrej Podstupka. Odoberať >
☀️ Ranný brífing SME, denný prehľad správ. Odoberať >
Správičky
V Číne zmenili záver kultového filmu The Fight Club (Klub bitkárov). Na Tencent Video ("čínsky Netflix") pribudol film len nedávno, ale čínski obyvatelia nemajú dostupný reálny koniec, v ktorom teroristi uspeli. Naopak, hlavného výtržníka (Tyler Durden) polícia zadrží, útok odvráti a on putuje do liečebného ústavu. BBC upozorňuje, že nejde o prvú takúto zmenu, avšak doteraz sa skôr dialo vystrihovanie jednotlivých scén, no nie úplná zmena príbehu. (BBC)
Kvartálne výsledky hlásili viaceré veľké technologické firmy, podrobne sa im budeme venovať v budúcom Kliku. V skratke:
- Apple mal najlepší kvartál v histórii. Niektorú zo služieb spoločnosti si predpláca 785 miliónov používateľov.
- Výsledky Tesly prekonali očakávania a spoločnosť Elona Muska ukončila druhý rok v pluse.
- Microsoft tiež prekonal očakávania, rástol najmä cloud, ale výrazne poskočili napríklad aj tržby sociálnej siete LinkedIn, ktorú spoločnosť vlastní. MS Teams má 270 miliónov aktívnych používateľov.
Kryptomeny stratili za posledné mesiace viac ako bilión dolárov z hodnoty. Pokles bitcoinu od novembrového maxima vymazal trhovú hodnotu viac ako 600 miliárd dolárov. (Bloomberg)
Lietajúci automobil AirCar dostal od slovenského dopravného úradu osvedčenie o letovej spôsobilosti. Hybridný dopravný prostriedok schopný dosiahnuť rýchlosť nad 160 kilometrov za hodinu a výšku 2500 metrov je vybavený motorom BMW a bežným benzínovým čerpadlom. Transformácia z auta na lietadlo trvá dve minúty a 15 sekúnd. Rozhodnutiu o certifikácii predchádzalo 70 hodín testovacích letov a viac ako 200 vzlietnutí a pristátí. „Certifikácia AirCar otvára dvere sériovej výrobe veľmi efektívnych lietajúcich áut,“ povedal jeho tvorca Štefan Klein, podľa ktorého AirCar môže navždy zmeniť cestovanie na stredné vzdialenosti. (SME Tech)
Populárny YouTuber Hank Green kritizuje TikTok a fondy pre tvorcov. (Protocol)
Všetko, čo potrebujete vedieť o nových procesoroch od Intelu. Ak sa práve chystáte na kúpu nového počítača, je Alder Lake jednou z logických volieb. Za tých pár mesiacov od prvého uvedenia sa situácia s dostupnými komponentmi výrazne zlepšila a nová platforma je tak dostupná nielen pre bohatých nadšencov, ale aj pre používateľa s obmedzeným rozpočtom. K novému procesoru si však budete musieť dokúpiť aj novú dosku, chladenie a tí náročnejší aj drahé DDR5 pamäte (SME Tech)
Huawei ukázal nové smartfóny s odvážnou cenou . Huawei európsky trh so smartfónmi očividne neopúšťa, pričom podľa oficiálnych cien sa nebojí konkurovať tým najlepším. Za model P50 Pro si pýta 1 199 eur a za skladací P50 Pocket až 1 399 eur. Pre Huawei stále platia obchodné obmedzenia, a tak ani po rokoch jeho nové smartfóny nepodporujú Google služby. (SME Tech)
