• TECHNOFOBIA
  • Posts
  • Chowaj twarz przed algorytmami - Artur Kurasiński Newsletter

Chowaj twarz przed algorytmami - Artur Kurasiński Newsletter

November 28, 2019

"Timeo Danaos et dona ferentes" czyli "Obawiam się Greków, nawet gdy niosą dary". Sentencja stara ale jakże żywa. Tak powinniśmy bowiem podchodzić do każdej technologii i wynalazku bo jak pokazuje ostatnia dekada my, ludzie umiemy perfekcyjnie wykorzystać każdą technologię do robienia sobie nawzajem krzywdy.

Miałem niedawno na zaproszenie UPC okazję oceniać startupy w ramach konkursu Think Big. Jednym z nich była firma Quantum CX, która dla banku PKO BP wdrożyła technologię pozwalającą poprzez sensory badać reakcje (a dokładnie czy ktoś się uśmiecha) pracowników banku oraz obsługiwanych przez nich klientów. Celem miało być promowanie uśmiechu za który otrzymywano punkty (mogące być wymienione na środki przeznaczone na cele charytatywne).

Podczas finałowej rundy pomysł oceniłem jako "diabelski" i starałem się przekonać innych członków jury o kompletnej niedorzeczności takiego rozwiązania (a nawet niebezpieczeństwach). Zostałem przegłosowany i projekt wygrał w swojej kategorii.

Minęło trochę czasu i okazało się, że Adam Bodnar (Rzecznik Praw Obywatelskich) wystąpił do Głównego Inspektora Pracy z wnioskiem o zbadanie akcji banku. Jemu też nie podobało się, że maszyna i algorytm mają badać zachowanie pracowników banku i ich klientów. Przy okazji okazało się, że czujniki Quantum CX zostały zamontowane nie tylko w banku ale również w Urzędzie Miasta w Sopocie.

Może teraz już sobie myślisz "po cholerę on się czepia tej firmy i jej technologii?". Odpowiem tak - to idealny wstęp do dalszego kontrolowania oraz wpływania na zachowania ludzi za pomocą algorytmów. Pal licho, że sztuczny uśmiech jest zły.

Chodzi o to, że cały proces kontrolują algorytmy, które zawierają błędy. I pozwalanie im na ingerowanie w tak delikatne kwestii jak na przykład obsługa klienta jest bardzo mały bezpieczne. Algorytmy nie potrafią rozpoznawać twarzy ludzi o ciemnej skórze. Czarnoskórzy pacjenci mogą mieć też problemy z prawidłową oceną stanu zdrowia.

Zadaniem algorytmów ma być upraszczanie i systematyzowanie rzeczywistości. Przypadki specjalne albo mało powtarzające się są ogromnym problemem z którym maszyny nie potrafią sobie poradzić

W Los Angeles umiano się przyznać do błędu - program PredPol stosowany przez policję do prognozowania występowania przestępstw był uważamy za idealny. Do czasu kiedy w końcu stwierdzono oczywisty fakt, że program opiera się na danych historycznych. Ale na początku wszystko wyglądało w porządku - system przewidywał, że przestępstwa powstaną w biednych dzielnicach i tam wysyłał patrole.

I policjanci byli świadkami wykroczeń i przestępstw. Po krótkim czasie stworzono sprzężenie zwrotne - pojawianie się policjantów powodowało agresję a raporty o bójkach czy kradzieżach potwierdzały konieczność wysyłania patroli w te rejony.

System starał się rozumować logicznie - skoro przewidział, że pojawi się występek (i takowy był raportowany) to wszystko było w porządku? Dlaczego PredPol nie wysyłał patroli do dzielnic bogatych? Bo z jego danych historycznych wynikało jednoznacznie, że tam jest mniej przestępstw.

I koło się zamykało.

Algorytmy wykorzystywane są już także w HR. Co tutaj może pójść źle? Otóż automatyzacja takich procesów może skutkować bezrefleksyjnymi zwolnieniami ludzi, którzy z jakiś powodów nie podobają się algorytmom (Amazon).

To samo może zdarzyć się w procesie zatrudniania - przecież wydajność procesów rekrutacji jest kluczowa dla wielu firm. Skoro można przesłuchać setki osób w tym samym czasie to dlaczego nie powierzyć tego procesu algorytmom (Unilever)?

A jeśli już mamy pracowników i boimy się, że założą związki zawodowe? No cóż - zawsze możemy szpiegować ich (przeglądać ich maile) żeby wyłapywać konwersacje na ten temat (Google).

Albo kiedy okazuje się, że algorytm jest seksistowski - kobiety nie dostaną takiego samego limitu kredytu jak mężczyźni (Apple).

A może wtedy kiedy algorytm będzie wyszukiwał wady genetyczne poprzez skanowanie twarzy noworodków? Jak sądzicie jakie to wywoła emocje wśród rodziców?

Problem z AI jest taki, że to my, ludzie uczymy programujemy je i definiujemy oczekiwania. Bardzo dobrze wyjaśnia to Janelle Shane, która na pozornie śmiesznych przykładach ("stwórz nowe smaki lodów") pokazuje jak algorytmy stosują swoją logikę. I tworzą potwory.

Bardzo groźnie wyglądają wszelkie próby sprzęgnięcia AI z rozpoznawaniem obrazu (a szczególności ludzkich twarzy). W Chinach dzięki taki rozwiązaniom rząd wyszukuje i wtrąca do obozów karnych przedstawicieli mniejszości ( na przykład Ujgurów) oraz zmusza ich do między innymi aborcji.

Żadna z największych firm technologicznych (GAFA) nie może pozwolić sobie na branie udziału w wyścigu mającego na celu stworzenie własnych rozwiązań. Amazon sprzedaje już takie rozwiązania (kamery z opcją rozpoznawania twarzy) policji.

Facebook przyznał, że pracuje od 2015 roku nad swoim projektem "facial recognition" ale tylko na swoje wewnętrzne potrzeby (ręka w górę kto jeszcze wierzy Zuckerbergowi).

W Hong Kongu trwa obecnie regularna wojna protestujących z policją. Tłum zasłania maskami twarze, używa się laserów do ogłupiania dronów jak i kamer policji, obala słupy z kamerami wyposażonymi w algorytmy do rozpoznawania twarzy. Tak wygląda starcie obywateli z państwem w XXI wieku.

W USA część osób uważa, że kwestie algorytmów a w szczególności tych używanych do rozpoznawania twarzy powinny być uregulowane. Takie głosy pojawiają się też w Europie.

Trzymajmy kciuki za tych, którzy podejmują takie próby. Prawdopodobnie nie ustrzegą nas przed inwazją kamer i algorytmów ale być może odsuną ten proces w czasie.

Po nie jesteśmy w stanie zatrzymać przyszłości. Algorytmy będą decydowały o coraz większej ilości spraw, która nas dotyczą.

Żeby było jasne. Nie obawiam się przyszłości spod znaku "Terminatora". Stworzenie "świadomych i inteligentnych" robotów jest tak odległe w czasie (patrząc na to na jakim etapie badań jesteśmy), że nikt z nas tego nie doczeka.

Boję się bardziej świata w którym będziemy zależni od algorytmów ale nie będziemy w stanie zrozumieć jak są skonstruowane ani jak działają.

Garbage in garbage out.

Artur Kurasiński

AI JAK WSPARCIE DLA HANDLOWCA (WYWIAD)

Tomasz Wesołowski - Edward.ai

Gdyby wierzyć, że ranking „Wprost” zawiera prawdziwe liczby, to powinienem ogłosić się piątym najlepiej zarabiającym autorem w Polsce w 2019 r.

Jak powstała największa flota e-carsheringu na świecie

Equity crowdfunding już teraz budzi sporo emocji, na polskim rynku pojawiła się jednak jego nowa odmiana, w której pieniądze zamiast do spółki trafią do dużego udziałowca. Ciężko powiedzieć, że to ewolucja w dobrym kierunku.

Supporters say the law on new sales promotes Russian technology but there are concerns about surveillance.

Portal WysokieNapiecie.pl szacuje, że przychody Lime w Polsce mogły wynieść prawie 40 mln zł. Przy czym prąd wykorzystany do ładowania hulajnóg kosztował 50 tys. zł.

Feeding knowledge directly into your brain, just like in sci-fi classic The Matrix, could soon take as much effort as falling asleep, scientists believe.

ALFA SCHOOL JUŻ 3-4 GRUDNIA!

Masz w głowie masę pomysłów, lecz nie wiesz jak się do tego zabrać i przerodzić je w prosperującą firmę? Już 3 i 4 grudnia odbędą się w Warszawie bezpłatne warsztaty #alfaSCHOOL.

Doświadczeni mentorzy podzielą się z Wami swoją wiedzą na temat: przygotowania budżetu projektu, umowy inwestycyjnej, współpracy z korporacjami, metodologii design thnking, ochrony know how, a także wystąpień publicznych i pitchowania! Liczba miejsc jest ograniczona, dlatego nie warto zwlekać z zapisami!

Here's the next jumbo data leak, complete with Facebook, Twitter, and LinkedIn profiles.

Amazon has revealed the companies that make its branded products for the first time. The e-commerce giant published a list of suppliers on its website earlier this month that details the names and…

A cryptocurrency startup that settled with the US Securities and Exchange Commission (SEC) over its illegal token sale has shut down.

RUSZYŁA SPRZEDAŻ BILETÓW NA MTC 2020!

Mobile Trends Awards to nagrody przyznawane firmom, które postawiły wyzwanie statusowi quo i z sukcesem wykorzystały mobilne technologie w swoich projektach.

Już od 9 lat jest to najbardziej prestiżowa nagroda, nazywana Oscarem branży mobilnej w Polsce.

Dwa dni porządnej dawki wiedzy z zakresu mobile – konkretne przykłady i case’y z dokładną analizą zysków i strat, abyś mógł wynieść swój biznes na wyższy poziom. W ramach Konferencji odbędzie się gala rozdania nagród Mobile Trends Awards dla najlepszych aplikacji minionego roku oraz niezapomniana impreza networkingowa do białego rana. 

 Przyjdź, spotkaj wyjątkowych ludzi, zainspiruj się i nawiąż nową współpracę biznesową!

Bilety znajdziesz pod adresem www.2020.mobiletrends.pl

The Chinese government is censoring WeChat users in the United States. Americans who voice their support for the pro-democracy movement in Hong Kong are having their messages blocked and their accounts shut down.

A document obtained by Motherboard shows how DMVs sell people’s names, addresses, and other personal information to generate revenue.

Jak pozyskać 519 leadów w 60 dni

Chciałbyś zwiększyć sprzedaż? Zapoznaj się z case study agencji CodeScalpel, jak pozyskać 519 leadów w 60 dni. Przeczytasz w nim, jak agencja przyczyniła się do wzrostu ilości i jakości pozyskanych leadów.

Z case`a dowiesz się:

Jak stworzyć efektywny lejek sprzedażowy w kampanii internetowej;

Ile leadów można uzyskać w kampanii sprzedażowej;

Które źródło generuje więcej leadów i dlaczego;

Jakie dodatkowe korzyści można osiągnąć w kampanii online.

REKLAMA

Massachusetts State Police is the first law enforcement agency in the country to use Boston Dynamics' dog-like robot, called Spot. That's raising questions from civil rights advocates about how much oversight there should be over police robotics programs.

The data paint a clear picture.

Billion, with a "B"

PinHub.io - opiniuj projekty graficzne

Startuje wersja Beta narzędzia służącego do opiniowania projektów graficznych, stron www online i offline oraz filmów na YouTubie. System pozwala pracować w zespole oraz z klientem.

Narzędzie świetnie sprawdzi się w agencji reklamowej, interaktywnej, software housie, w firmie zajmującej się designem, UX/UI.

Oszczędza czas i porządkuje prace. Podział na projekty klientów, wersjonowanie oraz czat w obrębie danego pina sprawiają, że cała praca związana z opiniowaniem projektów nigdy nie była tak prosta. Wersja płatna wystartuje po nowym roku, do tego czasu dla aktywnych użytkowników przewidziany jest darmowy abonament na pół roku ;) 

REKLAMA

Spend any time in New York or London, and you’ll inevitably come across dozens of electric scooter riders. Yet, despite their popularity, they’re technically illegal in both cities. But why is that the case? And what’s being done to change it?

London’s transport regulator, TfL, has revoked Uber’s license to operate in the city once again. TfL cites a "pattern of failures" from Uber to keep passengers safe, including the ability for Uber drivers to upload their photos to other accounts. Uber will now need to appeal the ban, and will be able to continue to operate in the city until an appeal has been heard

Nie trać czasu na umawianie spotkań

Harmonizely to niezawodne i proste narzędzie do planowania spotkań z klientami i członkami zespołu. Niezależnie od tego, czy uczysz lekcji gry na fortepianie, sprzedajesz nieruchomości, konsultujesz projekty itd., Harmonizely jest narzędziem dla Ciebie.

Możesz połączyć się z różnymi kalendarzami, nie tylko ze standardowym Google. Korzystając z integracji CalDAV, możesz połączyć się z Zoho, Zimbra, FastMail, NextCloud i wieloma innymi. Harmonizely zsynchronizuje się z Twoim ulubionym kalendarzem i zapobiegnie podwójnej rezerwacji spotkań w tym samym terminie. Dodatkowo, dostępna jest polska wersja językowa na stronie do umawiania spotkań.

Czas pożegnać się z pominiętymi spotkaniami i ze stratą czasu na wymianie niepotrzebnych wiadomości e-mail!

REKLAMA

Facebook

A civil liberties group wants to know if the robots will ever be armed and what roles they may take on.

Based upon metrics, it appears the Lightning Network's growth has plateaued for much of 2019. Many are unsure why this happened.

Amazon's AI automatically tracked and fired hundreds of fulfillment center employees for failing to meet productivity quotas.

Szanse i zagrożenia: PSD2 w Polsce

Rewolucja czy ewolucja? Jak wprowadzenie dyrektywy PSD2 wpłynie na podmioty finansowe w Polsce? KLIKNIJ I PRZECZYTAJ TUTAJ!

REKLAMA

W Skunk Works widzimy przyszłość w czymś, co nazywamy Multi-Domain Operations. To filozofia operacji bojowej, w której wszystkie platformy łączy informacja - stwierdził podczas wizyty w Warszawie Jacob Johnson, przedstawiciel Skunk Works, zespołu zaawansowanych projektów koncernu Lockheed Martin.

Facebook created a facial recognition smartphone app for internal use that was reportedly able to recognize Facebook users and their friends.

President Trump criticized China’s efforts to reach a deal during a visit to an Apple plant, where he sought to promote economic growth against the backdrop of a continuing trade war and the intensifying impeachment probe.

The long read: The great trick of online retail has been to get us to shop more and think less about how our purchases reach our homes

Apple has removed customer reviews from its online store in the US, UK, and Australia, as first reported by AppleInsider, and we’ve confirmed this to be the case.

WeWork has announced that its laying off around 2,400 employees months after paying its former CEO $1.7 billion to step down.

President Donald Trump secretly dined with Facebook CEO Mark Zuckerberg and Facebook board member Peter Thiel at the White House in October, the company said Wednesday.

Facebook's unveiling of its proposed Libra cryptocurrency this summer was 'ridiculously stupid,' according to the boss of a company building its...

The company says it is increasing the recording of rides to settle disputes between drivers and passengers and to improve safety.

The State of European Tech 2019 is the deepest, data-led investigation into the European tech ecosystem.

The Czech government approved a 7% digital tax proposal on Monday aimed at boosting state coffers by taxing advertising by global internet giants like Google and Facebook, the Finance Ministry said.

A secretive startup backed by Bill Gates has achieved a solar breakthrough aimed at saving the planet.