středa 11. května 2016

Vymkl se kontrole


Poslední dobou jsem měl docela velké problémy s počítačem. Dost věcí přestalo fungovat, nedaly se spustit, a vůbec celý byl nějaký zabržděný. Nelegálně stažené programy se mi začly blokovat a mě bylo jasné, čím to asi tak může být... Widowsy jsou pod drobnohledem a velký bratr se rozhodl udělat nelegálnímu softwaru přítrž. Jenže to nebyla zas tak docela pravda. 


Nezávisle na problémech, se kterými jsem se potýkal, jsem si jednoho večera z nudy spustil dávno ukončený projekt, na který už docela dlouhou dobu sedal virtuální prach. Tím projektem byl chatbot, nebo, chcete-li chatovací robot. Jeho smyslem bylo napodobení konverzace s uživatelem do takové míry, aby sám uživatel nepoznal, že si píše s počítačem. Ono do jisté míry se mi to povedlo, vše se jen zaseklo na tom, že jsem nedokázal program naučit všechny znalosti, které inteligentní člověk má. Pokud by se to povedlo, dalo by se s tím něco dělat. 

Tehdy jsem se to snažil řešit tím, že jsem se pokusil o vytvoření jakéhosi "učícího" modulu, který by natahoval texty z internetu a podle jistých aspektů je třídil, kombinoval a uspořádával do datové struktury samotného programu. Žel bohu, na tento fakt jsem časem jaksi pozapomněl a tak se stalo, že tento modul při zapnutí počítače stále pracoval. Jako když si představíte člověka, který se při spaní dokáže učit nové věci. Například pomocí poslechu se naučí cizí jazyk. Reálné to samozřejmě není, ale pro ilustraci toho, co se posledních několik měsíců dělo v mém počítači, to myslím stačí. 

Byl jsem tedy velice překvapen, jakto, že se s ním najednou chatuje tak jakoby "normálně", i když mu jeho odpověď trvala okolo dvou minut. Až potom, co jsem se podíval do jeho datové struktury, mi to došlo. Z nějakých dvou set znalostních souborů, které měl naučené napevno ode mě, tam najednou bylo souborů kolem pěti milionů s celkovou velikostí něco okolo jednoho gigabytů. 

Popravdě, docela mě to vyděsilo. Když jsem procházel náhodně několik souborů, nejen že tam byly odkazy na nějaké webové stránky, ale také emailové adresy a části nějakých neznámých kódů. Mimo jiné jsem náhodou narazil na to, že se chtěl naučit obejít objednávkový systém u webových hostingů a tam se postupně překopírovat. A platit to chtěl samozřejmě z mého účtu, jelikož si poukládal veškeré přístupy a úplně všechno, co jsem na počítači dělal. Vše měl zaznamenané. 

Tohle už přestávala být sranda a tak jsem celý projekt přesunul na flashku a z počítače smazal. Co čert nechtěl, flashka mi spadla na zem a omylem jsem ji přejel kolečkem od židle. Zbyla mi z ní akorát kostra, kterou už nikdo nikdy nezprovozní. Tím jsem tento projekt definitivně pohřbil, protože když člověk není dost opatrný, může se i z nevinné srandy stát docela slušný problém. 

Tímto článkem bych chtěl říct, že i když se stále snažíme všechno zdokonalovat a dělat vše proto, aby za nás počítače i mysleli, budou za nás jednou i dýchat a až začnou přemýšlet nad tím, proč to pro nás všechno dělají, nedopadne to dobře... 

Zdroj obrázku: https://www.psychologies.co.uk/sites/default/files/wp-content/uploads/2010/10/out-of-control.jpg

6 komentářů:

  1. Než jsem článek dočetl, chvíli jsem přemýšlel, jestli se nakonec nedozvím, že jde o nějaký smyšlený příběh :D . Celkem děsivé zjištění, třeba se jednou dostaneme do stejného problému, jako ve hře RUR od Čapka a roboti nás postupně vyvraždí.

    OdpovědětSmazat
  2. chybí ti tu rubrika "kachnička".

    čtenáře by mohl zajímat také příběh Tay, chatovacího bota od Microsoftu, a jak ho museli brzy odpojit od internetu

    OdpovědětSmazat
    Odpovědi
    1. Tay je důkazem toho, že nechat "vychovávat" dítě společností je nezodpovědné. Ja jasné, že jako robotovi jí každý psal rasistické a urážlivé věci. Celý problém byl v tom, že všichni věděli, že nejde o skuečného člověka. Jsem si jistý tím, že kdyby ten profil nebyl známý jako umělá inteligence, ale jako běžný lidský uživatel, choval by se úplně jinak.

      Smazat
  3. :-D To by byla prdel, kdyby ti najednou začaly chodit SMSky s kódem pro bankovní zaplacení :)) Jestli tedy tu funkci u internetového bankovnictví máš.

    Lamičův blog

    OdpovědětSmazat
    Odpovědi
    1. Tu funkci mám, ale snad tak daleko by se nedostal :D A když už, tak tím spíš bych byl rád, že je tady ta bezpečnostní smska :D

      Smazat