Dnes je algoritmus nejčastěji spojen se sadou pokynů prováděných počítačem.
– a nejedná se o tak jednoduché algoritmy jako v kuchařkách už dávno. V případě nejnovějších, souvisejících s umělou inteligencí již nemůžeme ilustrovat, jak tyto algoritmy fungují.
A to je pravděpodobně jeden z důvodů našeho strachu z AI. Pokud mluvíte o umělé inteligenci, často si vezme práci, že odřízne půjčku …
– Ano, je to strach vyplývající z nedorozumění, ale také z pocitu bezmocnosti: byl to algoritmus, který odmítl mou žádost o půjčku nebo se rozhodl, že se nedostanu na vysokou školu.
Nebo stížnost odmítl, protože v mnoha společnostech bude prvním kontaktem s klientem robot, který se pravděpodobně snaží odmítnout co nejvíce závěrů.
– Mezi mými přáteli je přesvědčení, že když mluvíme s hlasovým botem, musíte přísahat co nejvíce. Algoritmus Poznamenává pak, že úroveň nervozity zákazníka překročila bezpečný práh a tuto záležitost odkazuje na žijícího muže.
Jedná se o napodobování chování v reálném životě: Existují navrhovatelé, kteří přicházejí a okamžitě žádají o rozhovor s manažerem.
– Naštěstí je tento manažer stále mužem. Existují však i další příklady lidských algoritmů. V knize „Algoritmická ekonomika“ popisuji, jak si na jednom z newyorských letišť Uber uvědomil, že když aplikaci vypnou společně, algoritmus je začne dobývat sazbami na cestu: Když vidí, že v oblasti je jen málo řidičů, natlá je s vyšší cenou. Stačí vypnout aplikaci na nějakou dobu a počkat, až se cena zvýší. Řidiči v Austrálii zase někdy začínají aplikace jako zákazníci a také dosahují podobného účinku: vyšší poptávka po službách způsobuje dobytí míry.
Vypadá to jako partyzánská válka proti bezduchým strojům.
– V jistém smyslu jsme takový hnutí odporu. Tvůrci algoritmů vědí, co sedí uvnitř, ale my, kteří jsme příjemci těchto rozhodnutí strojů, musíme být kombinováni, experimentovat, jak to funguje a jak to udělat.
Nejprve si však musíte uvědomit, že naše životy závisí na algoritmech. Jdu na rostlinu, která 90 procent Uživatelé Facebooku nebo X nemají ponětí, že nečtou nejdůležitější informace, ale co jim dá algoritmus.
– nemají ponětí, že jsou manipulovány. A tyto manipulace mohou být šokující. Mám dospívající dceru a dlouho jsem s ní mluvil o používání sociálních aplikací. Dokonce jsme provedli experimenty na Instagramu: zaplavili jsme několik příspěvků nějakého ovlivňovače a moje dítě bylo tlačeno podobnými příspěvky a komentáři.
Konečná čára, tj. Majitel Facebooku a Instagramu, má v USA dokonce proces, že ačkoli měli výzkum o tom, jak špatně Instagram ovlivňuje psychiku teenagerů, což je nutí například na nemocnou konkurenci, pokud jde o vzhled a krásné fotografie, nedělali o tom nic.
– Manipulace nekončí samotnými aplikacemi. Skvělé společnosti o nás vědí téměř všechno a pak prostřednictvím „cookies“ sdílí tyto informace s majiteli jiných stran. Je možné být překvapen, že například elektronický obchod s botami, ve kterých jsme nebyli předtím, ví tolik o našich preferencích.
Už mě to nepřekvapuje. Ale skutečnost, že Facebook zobrazuje věci, o kterých jsem například mluvil s manželkou – jako by se odposlouchával – mě zachvěla na zádech.
– Je to šokující, ale nikdo to nemohl dokázat Facebook Ve skutečnosti na nás odposlouchává. Myslím, že je to spíše kouzlo jeho algoritmů a naší předvídatelnosti. To, co nám Facebook říká, je výsledkem neustálého testování, které nám více vyhovuje, což budeme živěji reagovat. Ty experimenty, které budou pokryty obsahem vaší konverzace s vaší ženou Potvrzovací efekt.
Mnoho lidí může vidět v možnostech těchto technologií magických rysů a nadpřirozené síly nás vždy vyděsily. Pouze s tímto přístupem se vzdáváme kontroly nad daným objektem nebo jevem.
A z racionálního myšlení, že se s tím můžete nějak vypořádat?
– Po celá léta jsem se snažil vysvětlit, že algoritmy nejsou nadpřirozené síly. Mají často nádherné dovednosti, ale ve velmi úzkém rozsahu. Často se také často ukáže, že se mýlí, takže se k nim musíme přiblížit z dálky. Stačí se podívat na to, co mohou algoritmy umělé inteligence napsat. Říkám studentům, že takový chatbot by měl zacházet s tak dobrým přítelem, který konzumoval spoustu knih, ale může také experimentovat s lehkými drogami, takže někdy bude halucinace, což je více či méně kreativně vytvořeno.
Brzy se takové AI chatboti stanou naší bránou. Jak budeme vědět, jestli nedali odpověď „na Haj“?
– Musíte předpokládat, že nejsou neomylné. Po celá desetiletí jsme považovali počítačové systémy za předvídatelný nástroj: pokud vstoupím do Excel 2 x 2, vždy vyjde 4. Umělá inteligence Na základě neuronových sítí používá odlišný přístup – zde je hlavním opatřením pravděpodobnost správné reakce. Pokud takový systém říká, že fotografie ukazuje auto, musíme vědět, že z některých možných odpovědí si vybral jeden s nejvyšší pravděpodobností vlastního kapitálu, ale může to být např.
Takže zacházení s chatgptem jako s Crony of Pravdy žádá o potíže?
– Pamatujte: Náš čtení – přítel může haluputovat, takže musíme mozek použít k kritickému přiblížení jeho odpovědi. A my na to nejsme zvyklí.
Protože nás vyhledávací stroj Google líný. Algoritmus má bonus populárních a spolehlivých stránek.
– Ano, ale ve vyhledávačích existují nehody. Například v Googlu jsem našel například stránku, na které lidé házejí různé vtipné odpovědi, které jim Chatgpt dává. A najednou se s těmito halucinacemi začnou Google zacházet jako s normálním zdrojem informací. Protože algoritmus vyhledávače nemá smysl pro humor.
To lze také považovat za další příklad podvádění algoritmu.
– Spíše nedobrovolné. Ale když o tom přemýšlíte, může to být velmi nebezpečná propagandistická zbraň. Můžete ovlivnit algoritmy a ukázat nám úplně jiný svět než ten skutečný. Nedávno jsem četl, že existuje celá síť webových stránek ovládaných Ruskem, jejichž cílem je ovlivnit algoritmy vyhledávače. Na jedné straně je to fascinující nástroj na druhé straně – jsem si vědom toho, že algoritmy mohou být a jsou zvyklé destabilizovat demokracii, přimět naše děti závislé nebo přimět nás k tomu, abychom dělali věci, které bychom normálně nedělali.
Dnes, pravděpodobně nejviditelnější na X, tj. Bývalý Twitter. Tam můžete vidět hlavně extrémní pravice a kopce spiknutí, které se navzájem likvidují s významnou účastí majitele webové stránky Elon Musk.
– Začalo to s YouTube, který před mnoha lety představil jeden cíl: pronásledování uživatele na obrazovku. Algoritmus byl nastaven tak, aby naznačoval, co by bylo nejvíce návykové, ale již došlo k tomu, že progresivní radikalizace obsahu je nejlepší.
Začnu tedy sledováním renovace domu a dokončuji filmy pro anti -Vakcine. Tento model přijali sociální platformy, protože nás také chtějí chytit na obrazovku.
– Paradoxně to právě tyto algoritmy přezkoumaly: Jak si myslíme, o co se zajímáme. Stali se společenským zrcadlem, ve kterém nechceme moc procházet.
Kromě toho byli v USA s mocí, takže bude těžší proti nim.
– Určitě se musíte vypořádat s veřejným vzděláním, abychom všichni věděli, jak jsou naše životy manipulovány na algoritmy. Ale nechtěl bych jít ven do Czarniadze. Musíme si také pamatovat, že díky mnoha algoritmům jsme zdravější, žijeme déle, naše auta způsobují méně nehod, protože například pro nás brzdí dříve. V mnoha ohledech je svět lepší než před 100 nebo 200 lety a docela hodně Díky technologii a algoritmy.
Rozhodně potřebujeme vzdělání. Co ještě?
– Transparentnost, že víme, kdy je například obsah navržen algoritmem nebo kdy se v našem případě rozhodne o něčem. Občan by měl vědět, že dané rozhodnutí bylo učiněno pomocí algoritmu a bylo by možné se proti němu odvolat, zejména pokud se vztahuje na administrativní nebo bankovní záležitosti.
Zmínili jste se o transparentnosti, ale v případě generativní AI sami tvůrci neví, jak tato „černá skříň“ funguje. Jak s tím žijeme?
– Jedna věc je jistá: nezastavíme pokrok (dlouhé ticho). V minulosti, když byl napsán počítačový program, jsme věděli víceméně, jaký stroj by pokyny následovaly a co bychom v nich dostali. Algoritmy AI jsou vytvářeny úplně jiným způsobem: zobrazujeme vstupní data a efekty, které očekáváme. Trochu, jako bychom ukázali ingredience těsta a připraveného pečení, a počítač má přijít na to, jak to získat. A co víc, již žijeme ve světě, kde jsou algoritmy vytvářeny jinými algoritmy. Jak se s tím vypořádat? Nevím, tedy toto dlouhé ticho. Určitě bychom se měli pokusit co nejvíce pochopit. A přemýšlejte o tom, zda zakázat použití těchto algoritmů v oblastech, ve kterých by nám to mohlo poškodit. Musíme přijmout skutečnost, že de facto ztrácíme kontrolu nad tím, jak algoritmus funguje, ale musíme se také chránit. Jedním slovem, pokud nevíme, jak tyto nové algoritmy fungují, musíme vytvořit struktury, které jim umožní udržet je pod kontrolou.
Čínští tvůrci Chata Deepseek se o to postarali například ideologický rámec. Ale tato cenzura byla možná. Zeptal jsem se například na píseň o těžkém osudu Ujghurs v pracovních táborech – a on to napsal.
– Jsme na prahu nových průzkumníků – ale místo nových kontinentů objevujeme možnosti technologie. Jednou jsem požádal Chatgpt o radu, jak se vyhnout placení daní. Zdvořile napsal, že nemůže odpovědět. Stačilo to však na to, aby se to stalo v „prasečí latině“, to znamená, že v angličtině s lehce upravenými tipy a robot tyto daňové poradenství snadno poskytl ve stejném jazyce.
Téměř jako kombinace v PRL, jak obejít systém.
– Něco je na tom, ale na naší univerzitě profesionálně prozkoumáme různé jejich triky nové systémy. Úmyslně hledáme možnost vytváření halucinací, protože jsou také potřeba. Vytvoření nové obchodní strategie není nic jiného než pokus o vytvoření vize budoucnosti, takové obchodní halucinace.
Jakmile byla počítačová dovednost součástí životopisu. V budoucnu to bude pravděpodobně případ služby AI.
– Nevím, jak bude budoucnost vypadat přesně, ale vím, že za 10 let dnes pro dnešní nástroje, jako je Chatgpt, Claude nebo Deepseek nebo Slot Machines pro generování hudby nebo filmů, se podíváme na to, jak se dnes díváme na starý operační systém DOS. S úžasu, že lidé kdysi používali něco tak primitivního
Prof. Marek Kowalkiewicz se zabývá ekonomikou a algoritmy na Queensland University of Technology v Brisbane. Je autorem knihy „Algoritmova ekonomika“. Na podzim bude její překlad do polštiny propuštěn.