Deep Learning najczęściej definiowany jest jako ważna składowa Machine Learningu oraz podzbiór sztucznej inteligencji (AI - Artificial Intelligence).
W ramach Deep Learningu tworzy się oprogramowanie, którego zadaniem jest naśladowanie, symulowanie zachowania ludzkiego umysłu, w szczególności procesów nauki oraz przetwarzania informacji.
Deep Learning jest jednym z najbardziej perspektywicznych, dynamicznie wzrastających rynków, sektorów wiedzy, pracy, mającym zastosowanie w coraz szerszej gamie branż, rynków, produktów oraz usług.
Jeśli słyszeliście na przykład o samochodach autonomicznych, to właśnie Deep Learning stoi za rozwojem tej technologii, jej popularyzacją, doskonaleniem się. Właściwie na naszych oczach dokonała się ogromna zmiana.
Technologia, której jeszcze jakiś czas temu nie wróżono wielkiego sukcesu powoli staje się bardzo popularną i coraz częściej postrzega się ją jako prawdziwego game changera w branży motoryzacyjnej.
Ale nie tylko motoryzacja stawia na Deep Learning. Zastosowanie rozwiązań, technologii głębokiego uczenia się będzie obejmować coraz większy zakres ludzkiej działalności.
Deep Learning znajduje zastosowanie wszędzie tam, gdzie agregowanie, analizowanie dużych ilości danych jest kwestią pierwszorzędną.
Technologia uczenia głębokiego jest niezwykle pomocna do dokonywania statystycznych opracowań, tworzenia modeli przebiegu zjawisk, prognozowania. Deep Learning jest coraz powszechniejszy.
Stykamy się z nim nie tylko jeżdżąc samochodami, ale także korzystając z pomocy wszelkiego rodzaju asystentów cyfrowych.
Oferowanych nie tylko na stronach internetowych, ale także w urządzeniach takich jak choćby telewizory,
Co to jest Deep Learning? Jakie znaczenie ma Deep Learning? Czym są sztuczne sieci neuronowe? Jak działa Deep Learning? Jakie jeszcze zastosowania znajdują sieci neuronowe?
Oto najważniejsze pytania, jakie dziś postawimy. I na jakie postaramy się jak najbardziej przystępnie odpowiedzieć.
Zapraszamy do lektury!
Szukasz rozwiązania?
Krótka historia Deep Learningu
Historia Deep Learningu nierozłącznie związana jest z rozwojem informatyki, mocy obliczeniowej komputerów, dostępności dużej ilości danych. To prawda. Ale prawdą jest także to, że nie jest aż tak krótka, jak można sądzić.
Źródeł, podstaw koncepcji Deep Learning należy szukać już w latach lat pięćdziesiątych XX wieku, kiedy to Alan Turing stworzył własną maszynę do uczenia się.
Wkład Turinga w rozwój sztucznej inteligencji, uczenia maszynowego (Machine Learning), Deep Learningu jest naprawdę trudny do przecenienia.
Źródło: Flickr.com
Przy okazji polecamy bardzo zwięzły i poglądowy artykuł na temat jego wkładu pt. „Alan Turing and the beginning of AI”.
Zdecydowanie pionierskie, przełomowe, dziś już kanoniczne idee, koncepcje oraz pomysły Alana Turinga stanowią kamień milowy w rozwoju tej gałęzi wiedzy.
W kolejnych dekadach powstawały programy, algorytmy, rozwiązania, koncepcje, których celem było „nauczenie maszyn samodzielnego uczenia się oraz samodzielnego myślenia”.
Warto pamiętać, że sieci neuronowe istnieją - jako koncepcja, konkretna technologia - od kilku dekad.
Przełomowymi momentami w rozwoju Deep Learningu, jak czytamy w artykule pt. „A Brief History of Deep Learning”, były między innymi:
- pierwsze algorytmy głębokiego uczenia się stworzone przez Alexeya Ivakhnenko
- pierwszy „splotowe sieci neuronowe” stworzone przez Kunihiko Fukushimę
- kod FORTRAN do propagacji wstecznej napisany przez Seppo Linnainmaa
- system mapowania i rozpoznawania podobnych danych opracowany przez Dana Cortes i Vladimira Vapnika
- Long Short-Term Memory opracowana przez Seppa Hochreitera i Juergena Schmidhubera.
Przy czym, warto także dodać, że nawet najbardziej śmiałe pomysły nie mogłyby się zrealizować, gdyby nie nastąpił postęp w mocach obliczeniowych procesorów, które są dziś w stanie przetwarzać ogromne ilości danych w bardzo krótkim czasie.
Stąd też na kolejny przełom w rozwoju Deep Learning należało poczekać. Nastąpił on w 1999 roku, kiedy to opracowano GPU (Graphics Processing Unit), które zwiększyły moc obliczeniową procesorów graficznych.
Wraz ze wzrostem mocy obliczeniowej procesorów, Deep Learning w coraz mniejszym stopniu był uznawany za ciekawostkę, a coraz częściej postrzegano go jako bardzo obiecującą technologię, która może okazać się przełomową w wielu branżach.
Tego rodzaju intuicje i przekonania bardzo szybko okazały się być prawdziwe.
Nic więc dziwnego, że w rozwój Deep Learning zaczęły inwestować duże firmy (m.in. Google), co znacząco przyspieszyło rozwój tej technologii, ale także zmieniło nastawienie wobec niej.
Czym jest Deep Learning?
Wróćmy jeszcze raz do naszego tytułowego pytania. By zrozumieć pożytki oraz zakres stosowalności technologii uczenia głębokiego konieczne jest wyczerpujące zdefiniowanie, wyjaśnienie, opisanie Deep Learningu.
Deep Learning to rodzaj uczenia maszynowego, w którym komputer analizuje algorytmy i ich wyniki, aby „uczyć się” sposobów ulepszania procesów i tworzenia nowych.
By mieć jasność zależności i zawierania się pojęć, dodajmy, że pojęciem jeszcze szerszym jest sztuczna inteligencja (AI), której uczenie maszynowe (Machine Learning) oraz zawierający się w nim Deep Learning stanowią podzbiory.
Generalnie rzecz ujmując, sztuczna inteligencja, uczenie maszynowe opierają się na zdolności do rozpoznawania wzorców, a następnie na podstawie danych zaobserwowanych w przeszłości służą do przewidywania przyszłych wyników.
Główną zaletą, użytecznością wykorzystywania sztucznej inteligencji, sieci neuronowych, machine learningu, Deep Learningu jest możliwość zautomatyzowania wielu procesów, wykonania zadań analitycznych oraz fizycznych bez udziału człowieka.
Przy czym, głębokie uczenie, w przeciwieństwie do niektórych algorytmów uczenia maszynowego, ograniczonych w swoich możliwościach nauki, może poprawić swoją wydajność dzięki dostępowi do większej ilości danych.
Deep Learning różni się także od uczenia maszynowego rodzajem danych oraz metodami uczenia się. Ponadto, Deep Learning w przeciwieństwie do Machine Learningu nie wymaga wstępnego przetwarzania danych.
Algorytmy Deep Learningowe mogą samodzielnie pozyskiwać i przetwarzać nieustrukturyzowane dane oraz automatyzują wyodrębnienie funkcji.
Przykładowo, jeśli będziemy chcieli wyodrębnić w zestawie fotografii zdjęcia kotów i psów, w przypadku uczenia maszynowego konieczne jest określenie cech dystynktywnych, pozwalających odróżnić jeden gatunek od drugiego.
Korzystając z Deep Learningu nie ma takiej konieczności. Algorytmy głębokiego uczenia samodzielnie wyodrębnią te cechy.
Algorytmy wykorzystywane w Deep Learningu pozwalają tworzyć modele hierarchiczne, które są zbliżone do procesów myślowych człowieka.
Deep Learning polega na tworzeniu sieci neuronowych, które zamiast organizować dane i wykonywać szereg zdefiniowanych równań, ustalają podstawowe parametry danych, rozpoznają wzorce za pomocą wielu warstw przetwarzania.
Podsumowanie tej części opowieści o Deep Learning niech stanowi cytat z artykułu pt. „What Is Deep Learning? 3 things you need to know”. Otóż, w procesie uczenia głębokiego funkcje są automatycznie wyodrębniane z obrazów.
Dodatkowo, Deep Learning polega na „nauce od końca do końca”, co oznacza, że system otrzymuje surowe dane i zadanie do wykonania, takie jak klasyfikacja. Jego zdaniem jest nauczenie się, jak to zrobić automatycznie.
I tutaj dochodzimy do kolejnego kluczowego pytania.
Jak działa Deep Learning?
Deep Learning w większości przypadków jest oparty na architekturach sieci neuronowych.
Sieci neuronowe w swej strukturze przypominają ludzki mózg i składają się ze sztucznych neuronów - węzłów.
W węzłach wyróżnić można trzy warstwy:
- warstwę wejściową
- warstwy ukryte
- warstwę wyjściową.
Warstwy wejściowe i wyjściowe w sieci neuronowej nazywane są warstwami widocznymi.
Warstwa wejściowa to miejsce, w którym wprowadzane są dane do przetworzenia, a warstwa wyjściowa to miejsce, w którym dokonywana jest ostateczna prognoza lub klasyfikacja.
Sieć jest tym głębsza, im większą ilość warstw posiada. Ważną cechą sieci neuronowych jest wzrost wydajności wraz z pogłębianiem się sieci.
Warstwy uczą się, jak przetłumaczyć dane wejściowe na złożoną reprezentację, która z każdym poziomem jest nieco bardziej abstrakcyjna. Dane wyjściowe z jednej warstwy stają się danymi wejściowymi dla następnej.
Mówiąc nieco innym językiem, w sieci neuronowej sygnały przemieszczają się między węzłami i przypisują im odpowiednie wagi.
Węzeł o większej wadze ma większy wpływ na następną warstwę węzłów. Ostatnia warstwa kompiluje ważone dane wejściowe w celu uzyskania danych wyjściowych.
Choć sieci neuronowe są znane od kilku dekad, dopiero stosunkowo niedawno zaczęto z nich korzystać na taką skalę. Z bardzo prostego powodu.
Deep Learning wymaga do nauki dużych mocy obliczeniowych oraz dużych ilości danych, które pozwalają uzyskać dokładne wyniki.
Nauka jest czasochłonna, bowiem system stopniowo udoskonala swój model.
Szybki rozwój technologiczny sprawił, że Deep Learning rozwija się w ostatnich latach bardzo dynamicznie.
Do najpopularniejszych algorytmów Deep Learningu należą:
- Convolutional Neural Networks (CNN)
- Long Short Term Memory Networks (LSTM)
- Recurrent Neural Networks (RNN)
- Generative Adversarial Networks (GAN)
- Multilayer Perceptrons (MLP)
- Deep Belief Networks (DBN).
CNN są stosowane do identyfikacji obrazów satelitarnych, przetwarzania obrazów medycznych, wykrywania anomalii.
LSTM są najczęściej używane do rozpoznawania mowy, komponowania muzyki i opracowywania produktów farmaceutycznych.
RNN są wykorzystywane do rozpoznawania pisma ręcznego i tłumaczenia maszynowego.
GAN są używane do tworzenia animacji, zdjęć ludzkich twarzy i renderowania obiektów 3D.
MLP są używane do tworzenia oprogramowania do rozpoznawania mowy, obrazów oraz tłumaczenia maszynowego.
DBN są używane do rozpoznawania obrazu, rozpoznawania wideo i przechwytywania ruchu.
Jeśli potrzebujecie poszerzyć swoją wiedzę w tym zakresie, w szczególności polecamy lekturę artykułu pt. „Top 10 Deep Learning Algorithms You Should Know in 2022”.
Znajdziecie w nim szczegółowe omówienie poszczególnych algorytmów - w szczególności sposobów ich działania, zakresu stosowalności oraz użyteczności.
Dlaczego Deep Learning jest ważny?
Najprostsza odpowiedź na powyższe pytanie powinna brzmieć następująco: bowiem Deep Learning jest niezwykle użyteczny i biznesowo opłacalny.
Jeśli potrzebujecie nieco bardziej szczegółowego uzasadnienia, to powinno brzmieć ono następująco: technologia Deep Learning wyniosła na zupełnie nowy level możliwość klasyfikowania, rozpoznawania, wykrywania i opisywania danych za pomocą algorytmów, sieci neuronowych.
Deep Learning coraz częściej i z coraz większym powodzeniem znajduje zastosowanie w branżach, w których istnieje konieczność opracowywania danych nienumerycznych.
Uczenie głębokie staje się niezwykle użyteczne do:
- rozpoznawania mowy
- rozpoznawania obrazów
- tłumaczenia tekstów.
Rozwój Deep Learning, jak już wspominaliśmy, idzie w parze z rozwojem mocy obliczeniowych oraz dostępnością danych.
Ale jest także powiązany z rozwojem technologii rozproszonego przetwarzania danych w chmurze oraz przetwarzania danych z wykorzystaniem kart graficznych (GPU). A w tych domenach mamy do czynienia także z bardzo dynamicznym rozwojem.
Kolejną zmienną, która wpływa na panoramę zastosowań technologii Deep Learning, jej przyszłość oraz perspektywiczność rozwoju, są zmiany w interakcji człowieka z komputerami, interfejsami aplikacji, interfejsami oprogramowania.
Klasyczna interakcja za pomocą klawiatury oraz myszy coraz częściej jest zastępowana przez interakcje taktylne. A klasyczne operowanie kursorem jest zastępowane gestami.
Coraz częściej interakcja oznacza także komunikację werbalną, wydawanie komend za pomocą słów, kierowanych w stronę urządzenia.
Odkąd Deep Learning sprawdził się w kosmologii, farmaceutyce, symptomatyce chorób, genetyce, motoryzacji, odtąd jego przyszłość stała się więcej niż świetlana.
Tym bardziej, że wyzwania cywilizacyjne, takie jak globalne ocieplenie będą wymagały nowych technologii, w tym narzędzi poznawczych, analitycznych, predykcyjnych, które nie tylko poradzą sobie z ogromem danych, ale także zaoferują odpowiedni poziom dokładności i trafności.
Rozwój robotyki, Internet of Things, aplikacji, technologii biomedycznych, kryminologii i wielu, wielu innych dziedzin jest dziś zależny w dużej mierze od rozwoju technologii Deep Learningowych.
Jakie są aktualne zastosowania Deep Learningu?
Deep Learning znajduje coraz szersze zastosowanie w różnych gałęziach gospodarki. To fakt, trend oraz dla wielu z nich to teraźniejszość, bądź najbliższa przyszłość.
Algorytmy Deep Learningowe są coraz częściej wykorzystywane w:
- e-Commerce
- finansach
- medycynie i opiece zdrowotnej
- farmaceutyce
- bezpieczeństwie
- logistyce i transporcie.
Zgodnie z wynikami badań opublikowanymi w raporcie pt. „2020 State of AI Survey Report” przedsiębiorstwa, organizacje, by zachować konkurencyjność będą wręcz zmuszone do korzystania z uczenia maszynowego, uczenia głębokiego, automatyzacji procesów robotycznych oraz automatyzacji usług.
I w dużym stopniu tak już się dzieje.
53% firm, które już korzystają z dobrodziejstw Artificial Intelligence (AI) planuje w krótkiej perspektywie czasowej wdrożyć rozwiązania z zakresu Deep Learningu.
Nie ma się czemu dziwić.
Deep Learning (dzięki zastosowaniu głębokich sieci neuronowych) pozwala między innymi:
- analizować różne przypadki użycia
- prototypować
- modelować wzorce
- dokonywać predykcji (np. zakupowych - case rekomendacji Amazona, Netflixa)
- optymalizować proces uczenia
- identyfikować
- diagnozować
- szacować ryzyko (np. w branży finansowej)
- dostarczać rozwiązania
- analizować nastroje
- dostrzegać anomalie.
Branża finansowa potencjał Deep Learningu wykorzystuje, między innymi, do oceny ryzyka kredytowego, automatyzacji operacji back-office.
Agencje rządowe, instytucje państwowe bardzo często wykorzystują głębokie uczenie się do identyfikacji, klasyfikacji obrazów.
Na lotniskach tego rodzaju technologia jest bardzo przydatna do zwiększania poziomu bezpieczeństwa, przyspieszania operacji i automatyzacji zarządzania kolejkami.
W robotyce Deep Learning znajduje zastosowanie w rozpoznawaniu oraz reagowaniu robotów na otaczającą ich przestrzeń, zmiany w niej zachodzące.
Przyszłością robotyki oraz Deep Learningu jest coraz szersze wykorzystywanie robotów do prac samodzielnych oraz asystowania ludziom w życiu codziennym.
W rolnictwie Deep Learning oznacza wsparcie maszyn, dzięki czemu są one w stanie rozróżniać rośliny oraz selektywnie je spryskiwać - nawozami, bądź środkami chwastobójczymi.
Coraz częściej technologia uczenia głębokiego jest stosowana do bardziej optymalnego, trafnego zbierania plonów.
W medycynie Deep Learning jest używane do obrazowania, diagnozowania, predykcji kłopotów zdrowotnych.
Nawet w polityce, a dokładniej rzecz ujmując w badaniu prawdopodobieństwa sukcesu lub porażki wyborczej, Deep Learning także znajduje zastosowanie.
To oczywiście bardzo wycinkowa, skromna, poglądowa lista, która tylko w przybliżeniu pokazuje, jak szeroki może być zakres zastosowania uczenia głębokiego.
Możliwości Deep Learningu stale się poszerzają, podobnie jak poprawie ulega wydajność, skuteczność, opłacalność samej technologii.
O wszystkich zastosowaniach technik głębokiego uczenia, kognitywnym przetwarzaniu danych, tradycyjnych zastosowaniach analitycznych, cognitive computing, technologiach głębokiego uczenia, analizie szeregów czasowych, nowych sposobach strumieniowego przetwarzania danych nie sposób napisać w jednym artykule.
Natomiast, na pewno warto dodać, że nowe klasy sieci neuronowych wciąż powstają i są stale rozwijane. O nowych technikach głębokiego uczenia z pewnością będziemy czytać, pisać coraz częściej.
Wpływ technologii głębokiego uczenia (nowinkach w kwestii budowy sieci neuronowych) jest po prostu już bardzo znaczący.
Co to jest Deep Learning? Podsumowanie
- Deep Learning, głębokie uczenie najczęściej definiowany jest jako ważna składowa Machine Learningu oraz podzbiór sztucznej inteligencji (AI - Artificial Intelligence).
- Specjaliści od Deep Learningu tworzą oprogramowanie, którego zadaniem jest naśladowanie ludzkiego umysłu.
- W Deep Learningu w szczególności chodzi o naśladowanie procesów nauki oraz przetwarzania danych.
- Historia Deep Learningu nierozłącznie związana jest z rozwojem informatyki, mocy obliczeniowej komputerów, dostępności dużej ilości danych.
- Podstaw koncepcji Deep Learning należy szukać już w latach lat pięćdziesiątych XX wieku, kiedy to Alan Turning stworzył własną maszynę do uczenia się.
- W kolejnych dekadach powstawały programy, algorytmy, rozwiązania, koncepcje, których celem było „nauczenie maszyn samodzielnego uczenia się oraz samodzielnego myślenia”.
- Od dłuższego czasu w rozwój Deep Learning inwestują duże firmy (m.in. Google), co znacząco przyspieszyło rozwój tej technologii.
- Deep Learning to rodzaj uczenia maszynowego, w którym komputer analizuje algorytmy i ich wyniki, aby „uczyć się” sposobów ulepszania procesów i tworzenia nowych.
- Sztuczna inteligencja, uczenie maszynowe opierają się na zdolności do rozpoznawania wzorców, a następnie na podstawie danych zaobserwowanych w przeszłości służą do przewidywania przyszłych wyników. W dużym stopniu korzystają z podstaw kognitywnego przetwarzania danych, są formą uczenia sieci, opartą na wykorzystaniu dostępnych danych.
- Uczenie głębokie różni się od uczenia maszynowego rodzajem danych oraz metodami uczenia się.
- Deep Learning w przeciwieństwie do Machine Learningu nie wymaga wstępnego przetwarzania danych.
- Algorytmy głębokiego uczenia pozwalają tworzyć systemy predykcyjne, mogą samodzielnie pozyskiwać i przetwarzać nieustrukturyzowane dane oraz automatyzują wyodrębnienie funkcji - są rodzajem automatycznego uczenia.
- Centralny element głębokiego uczenia (Deep Learning AI) w większości przypadków jest oparty na architekturach sieci neuronowych.
- Sieci neuronowe w swej strukturze przypominają ludzki mózg i składają się ze sztucznych neuronów - węzłów.
- Warstwy wejściowe i wyjściowe w sieci neuronowej nazywane są warstwami widocznymi.
- Warstwa wejściowa to miejsce, w którym wprowadzane są dane do przetworzenia, a warstwa wyjściowa to miejsce, w którym dokonywana jest ostateczna prognoza lub klasyfikacja.
- Dzięki temu Deep Learning zdecydowanie przewyższa tradycyjne metody modelowania.
- Technologia głębokiego uczenia, dzięki dużej mocy obliczeniowej komputerów, większej mocy obliczeniowej GPU wyniosła na zupełnie nowy level możliwość klasyfikowania, rozpoznawania, wykrywania i opisywania danych za pomocą algorytmów, sieci neuronowych.
- Rozwój analizy tekstu pisanego, robotyki, Internet of Things, aplikacji, technologii biomedycznych, kryminologii i wielu, wielu innych dziedzin jest dziś zależny w dużej mierze od rozwoju technologii Deep Learningowych.
- Algorytmy Deep Learningowe są coraz częściej wykorzystywane w e-Commerce, finansach, medycynie i opiece zdrowotnej, farmaceutyce, bezpieczeństwie, logistyce i transporcie, w których ich zdolność ciągłego doskonalenia, przeprowadzanie procesów analitycznych, możliwość uzyskania wysokiej dokładności jest kluczową zaletą.
- Machine Learning Deep Learning pozwala analizować różne przypadki użycia, prototypować, modelować wzorce dokonywać predykcji, optymalizować procesy.
- Bardzo częstym zastosowaniem głębokich sieci neuronowych jest identyfikowanie, diagnozowanie, szacowanie ryzyka.
- Uczenie głębokie to także dostarczanie rozwiązań, analizowanie nastrojów, dostrzeganie anomalii.
- Można śmiało założyć, że praktycznych zastosowań rozpoznawania obrazów, tego jak wykorzystujemy Deep Learning będzie z czasem znacząco przybywać.
