Christian Heilmann: Ljudi nisu pametni kao računalni sustavi koje stvaraju, i to je problem

Christian Heilmann ime je koje je gotovo svaki posjetitelj Shifta vjerojatno susreo prije ili kasnije. U njegovom impresivnom životopisu moguće je pronaći tvrtke kao što su Yahoo, Mozilla te Microsoft, u kojem je i trenutno zaposlen. Osim rada u takvim gigantima IT sektora, može se pohvaliti i vrlo pozitivnim stavom prema novim tehnologijama i intenzivnom karizmom i prisutnošću, kako na pozornici, tako i u razgovornoj atmosferi, u što smo se i sami uvjerili u intervjuu uoči konferencije.

Heilmann radi na mnogim tehnologijama koje tek trebaju vidjeti svjetlo dana, a upravo o potencijalnim opasnostima novih tehnologija i njihovog neopreznog implementiranja odlučio je porazgovarati na ovogodišnjem Shiftu.

Utopija ili distopija?

Predavanje je započeo šalom, upozoravajući publiku da “Bog šutne psića kad god netko snima vertikalni video”, promatrajući nekolicinu članova publike (koji su upravo to počeli raditi) sa smiješkom. Nakon početnog probijanja leda, Christian se fokusira na tematiku predavanja koje nosi naziv The Soul in the Machine – Developing for Humans. Ovakav relativno apstraktan naziv Christian je vrlo brzo opravdao, objasnivši publici kako mnoge tehnologije koje ljudi danas implementiraju bez mnogo razmišljanja zapravo imaju velik broj sličnosti s tehnologijama koje su primjenjivane u distopijskim romanima velikana kao što su George Orwell, Arthur C. Clarke i slični. Ova distopijska tema nastavila se protezati kroz čitavo predavanje, dajući mu jedinstvenu atmosferu i tjerajući publiku na razmišljanje o temi koja nadilazi jednostavno pisanje koda.

Na ovaj uvod nadovezao je sljedeće pitanje: Je li budućnost opasna iz perspektive implementacije novih tehnologija? Napomenuo je kako se najzanimljivije nove tehnologije često implementiraju u igraćoj industriji, što nije samo po sebi loše, ali potiče potrošački mentalitet što pospješuje razvoj distopijskih scenarija koristeći našu rastuću potrebu za naprednijom zabavom kao katalizator.

Nije sve tako crno… ali ni bijelo.

U nastavku se osvrnuo na stvari u kojima su računala dobra, kao na primjer prepoznavanje i kategoriziranje informacija – selfie na Facebooku koji je automatski tagiran kao takav s obzirom na postotak slike koji zauzima lice, prepoznavanje hrane, jezika i slično. Sve ovo posljedica je tzv. deep learninga, svojstva koje posjeduje sve više računalnih mreža i sustava. Ovakva implementacija tehnologije omogućava računalima da sama uče, uz minimalnu ili nikakvu pomoć od strane operatora (čovjeka). Premda se mnoge distopijske vizije budućnosti oslanjaju na ovakve mogućnosti računala, Christian nas uvjerava kako ovo nije nužno loša tehnologija kad se radi o budućnosti ljudske rase.

Taj stav opravdava uz uvjet da se takva tehnologija pravilno implementira, ograničavajući je na područja u kojima je stvarno korisna, kako ne bi došlo do marginalizacije ljudskih resursa, već do njihovog oslobađanja za bolje i veće stvari od npr. kopanja u rudniku ili baratanja nuklearnim otpadom. Takve stvari, kao i redundantni poslovi, primjerice automatsko dodavanje opisnog teksta fotografijama uploadanim na neki web servis, bolje je prepustiti računalu koje se neće žaliti na dosadu ili patiti od bolesti.

Naravno, s obzirom na to da se kroz cijelo predavanje proteže tematika dvojne prirode ovih tehnologija ovisno o njihovoj implementaciji, Chris nudi i protuprimjer lošeg korištenja modernih tehnoloških usluga. Po njemu, uklanjanje ljudi iz jednadžbe nešto je što se danas sve više događa – Google Allo sa svojim sustavom reagiranja na poruke koje Google pošalje korisnikovom telefonu čovjeka zapravo donekle pretvara u mehanizam prijenosa informacija između pametnog telefona i Googleovog servera. Umjesto da aplikacija reagira na korisnika, korisnik reagira na aplikaciju.

Kako izbjeći robotski ustanak?

Christian predavanje privodi kraju dajući publici svoje savjete za razvijanje korisnih i prijateljskih sučelja između čovjeka i stroja koja se oslanjaju upravo na ove moderne tehnologije. Osim konkretnog savjeta korištenja gotovih API-ja, Amazonovih servera i sličnih usluga radi olakšavanja rada na takvim sučeljima i njihove humanizacije, spominje i biometriku koja je izuzetno korisna za sigurnosne sustave, API-je za moderiranje nesigurnog sadržaja na internetu (kao primjer je naveo automatsko prepoznavanje i micanje dječje pornografije bez potrebe za administratorskom ili korisničkom intervencijom) te “sprječavanje ljudi od činjenja glupih stvari“, pod čim podrazumijeva ograničavanje mogućih korisničkih grešaka pažljivom i pametnom primjenom strojnog učenja.

Kao primjer ovakve implementacije navodi upload slike na web stranicu: kad korisnik uploada sliku, stranica bi sama trebala ponuditi automatski generiran tekst koji opisuje tu sliku te samo pitati korisnika je li taj tekst prihvatljiv – ovime se poboljšava jasnoća usluge, a i dopušta ljudima koji ne mogu vidjeti sliku iz bilo kojeg razloga da ipak znaju o čemu se radi.

U obranu računala Chris priskače i argumentom da su ljudi koji razvijaju ovakve sustave, a ne sama računala, zapravo problem. Po njemu, ljudi nisu toliko pametni kao računalni sustavi koje stvaraju.

Kao svoju zadnju misao ovog predavanja, Christian kaže: The future is already here, it’s just not evenly distributed. Objašnjava kako već živimo u dobu robotskog preuzimanja svijeta – trebali bismo iskoristiti ovo vrijeme kako bismo računalima dali da rade stvari u kojima ljudi nisu dobri, a računala jesu. Trenutno se dosta novih tehnologija implementira kako bi se ljudi zamijenili računalima, a upravo to je po Christianu najkraći put za ostvarivanje nekog od klasičnih distopijskih scenarija koje su zamislili velikani s početka Chrisovog predavanja.

Kroz čitavo predavanje provlačio se smisao shvaćanja kako budućnost, kakvu smo naviknuli zamišljati kad netko spomene tu riječ, nije više samo apstraktna kreacija našeg uma temeljena na znanstvenoj fantastici, već nešto puno bliskije i stvarnije. Ako s Christianovog predavanja možemo bez ikakve dvojbe jednu stvar ponijeti doma, onda je to shvaćanje da je budućnost uistinu sad – bili mi na to spremni ili ne.