Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_1.jpg" alt="(!LANG:>Rețele neuronale în medicină StatSoft Rusia">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_2.jpg" alt="(!LANG:>Idei de bază ale metodelor de analiză a rețelelor neuronale » Toate principalele"> Основные идеи нейросетевых методов анализа Простота и однородность отдельных элементов - «нейронов» Все основные свойства сети определяются структурой связей Избыточность системы гарантирует ее надежность как целого Связи формируются по неявным правилам в процессе «обучения»!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_3.jpg" alt="(!LANG:>Exemple de rețele neuronale artificiale">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_4.jpg" alt="(!LANG:>Caracteristici ale abordării rețelei neuronale pentru analiza datelor Oferă o modalitate standard pentru a rezolva multe probleme non-standard .Explicit"> Особенности нейросетевого подхода к анализу данных Предлагает стандартный способ решения многих нестандартных задач. Явное описание модели заменяется созданием «образовательной среды». Приводит к успеху там, где отказывают традиционные методы и трудно создать явный алгоритм.!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_5.jpg" alt="(!LANG:>Sistemele experte pentru diagnosticarea bolilor prezintă un interes deosebit pentru asistența medicală practică">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_6.jpg" alt="(!LANG:>Exemple de aplicații ale rețelelor neuronale în spectre de medicină."> Примеры применения нейронных сетей в медицине Выявление атеросклеротических бляшек с помощью анализа флюоресцентных спектров. Диагностика заболеваний !} vasele periferice. Diagnosticul infarctului miocardic. Diagnosticul suflulor valvulare cardiace folosind analiza semnalelor acustice. Recunoașterea simptomelor mentale.

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_7.jpg" alt="(!LANG:>Sistem expert pentru tratament hipertensiune arteriala(Italia) Modulul 1 Modulul 2 Modulul 3 Orar "> Sistem expert pentru tratamentul hipertensiunii arteriale (Italia) Modulul 1 Modulul 2 Modulul 3 Măsurătorile orare ale presiunii Vârsta și sexul Caracteristicile afecțiunii Caracteristici medicamente Structura consumului orar de medicamente Alte date clinice

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_8.jpg" alt="(!LANG:>Determinarea dozei acumulate de expunere radioactivă (Academia Medicală Krasnoyarsk) Clasificare pentru 4 grupe de"> Определение накопленной дозы радиоактивного облучения (Красноярская мед. академия) Классификация на 4 группы по величине накопленной дозы облучения 35 входных параметров Естественная Слабая Средняя Сильная Сеть обучалась на данных о пациентах, работающих в атомной промышленности. Со 100% правильностью такая сеть классифицирует состояние людей, в том числе и тех, кто не работает в данной отрасли.!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_9.jpg" alt="(!LANG:>Pașii analizei rețelelor neuronale Explorarea relațiilor variabile și construirea reducerii dimensiunii și Rețele de formare"> Этапы нейросетевого анализа Исследование взаимосвязи переменных и понижение размерности Построение и обучение сетей !} tipuri diferite Compararea calității rețelei și a caracteristicilor statistice ale acestora

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_10.jpg" alt="(!LANG:>Reducerea dimensionalității: selectarea caracteristicii de intrare Penalizare pe articol, număr de populații , și generații de biți"> Понижение размерности: отбор входных признаков Штраф за элемент, число популяций и поколений битовых строк Генетический алгоритм, пошаговое включение и исключение признаков!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_11.jpg" alt="(!LANG:>Reducerea dimensionalității: rețele auto-asociative Noi variabile de intrare pentru neuronale model de rețea">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_12.jpg" alt="(!LANG:>Sarcina clasificării stării pacienților cu boala ischemica">

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_13.jpg" alt="(!LANG:>Rețea neuronală pentru diagnosticarea dezvoltării bolii coronariene printr-un set de indicatori (48 de variabile),"> Нейронная сеть для диагностики развития ишемической болезни По набору показателей (48 переменных), как номинальных (например, «слабая-умеренная-сильная боль»), так и непрерывных (например, !} tensiune arteriala sau vârsta), starea pacienților cu cardiopatie ischemică este clasificată. Variabile nominale Variabile continue

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_14.jpg" alt="(!LANG:>Rezultatele clasificarii si analiza de sensibilitate Toate cazurile clasificate corect Analiza de sensibilitate permite afirmarea ,"> Результаты классификации и анализ чувствительности Все наблюдения классифицированы правильно Анализ чувствительности позволяет утверждать, что одним из !} factori critici riscul este obiceiul de a fumat.

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_15.jpg" alt="(!LANG:>Sarcina de diagnosticare boala oncologica">

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_16.jpg" alt="(!LANG:>Rețele neuronale pentru diagnosticarea cancerului Rețea bazată pe funcții de bază radială Perceptron multistrat">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_17.jpg" alt="(!LANG:>Rezultate clasificare Perceptron multistrat: 100% din observatii clasificate corect Baza radiala Funcții: 95% din observații clasificate"> Результаты классификации Многослойный персептрон: 100% наблюдений классифицировано правильно Радиальные базисные функции: 95% наблюдений классифицировано правильно!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_18.jpg" alt="(!LANG:>Configurare rețea">!}

Src="https://present5.com/presentacii-2/20171208%5C21538-neuronet.ppt%5C21538-neuronet_19.jpg" alt="(!LANG:>STATISTICA Neural Networks pachet de biblioteci de funcții pentru construirea, formarea și operarea neuronale retelelor"> Библиотеки функций пакета STATISTICA Neural Networks для построения, обучения и работы нейронных сетей позволяют эффективно встраивать нейросетевые модули в разрабатываемые экспертные системы для прогнозирования и диагностики заболеваний!}

Bună ziua, numele meu este Natalia Efremova și sunt cercetător la NtechLab. Astăzi voi vorbi despre tipurile de rețele neuronale și despre aplicarea acestora.

În primul rând, permiteți-mi să spun câteva cuvinte despre compania noastră. Compania este nouă, poate mulți dintre voi nu știți ce facem. Anul trecut am câștigat provocarea MegaFace. Acesta este un concurs internațional de recunoaștere a feței. În același an s-a deschis firma noastră, adică suntem pe piață de aproximativ un an, chiar și puțin mai mult. Prin urmare, suntem una dintre companiile lider în recunoașterea facială și procesarea biometrică a imaginilor.

Prima parte a raportului meu va fi îndreptată către cei care nu sunt familiarizați cu rețelele neuronale. Sunt direct implicat în învățarea profundă. Lucrez în acest domeniu de peste 10 ani. Deși a apărut cu puțin mai puțin de un deceniu în urmă, au existat câteva rudimente de rețele neuronale care arătau ca un sistem de învățare profundă.

În ultimii 10 ani, învățarea profundă și viziunea computerizată s-au dezvoltat într-un ritm incredibil. Tot ceea ce s-a făcut semnificativ în acest domeniu s-a întâmplat în ultimii 6 ani.

Voi vorbi despre aspecte practice: unde, când, ce să folosesc în ceea ce privește deep learning pentru procesarea imaginilor și video, pentru recunoașterea imaginii și a feței, deoarece lucrez pentru o companie care face acest lucru. Voi vorbi puțin despre recunoașterea emoțiilor, ce abordări sunt folosite în jocuri și robotică. Voi vorbi, de asemenea, despre aplicarea non-standard a învățării profunde, ceva care tocmai iese din instituțiile științifice și este încă puțin folosit în practică, cum poate fi aplicat și de ce este dificil de aplicat.

Raportul va consta din două părți. Deoarece majoritatea oamenilor sunt familiarizați cu rețelele neuronale, mai întâi voi explica rapid cum funcționează rețelele neuronale, ce sunt rețelele neuronale biologice, de ce este important pentru noi să știm cum funcționează, ce sunt rețelele neuronale artificiale și ce arhitecturi sunt utilizate în care zone.

Îmi cer scuze imediat, voi sări puțin la terminologia engleză, pentru că cel mai Nici măcar nu știu cum se numește în rusă. Poate si tu.

Deci, prima parte a raportului va fi dedicată rețelelor neuronale convoluționale. Voi explica cum funcționează recunoașterea imaginii rețelei neuronale convoluționale (CNN) folosind un exemplu de recunoaștere a feței. Voi vorbi puțin despre rețelele neuronale recurente (RNN) și despre învățarea prin consolidare folosind exemplul sistemelor de învățare profundă.

Ca o aplicație non-standard a rețelelor neuronale, voi vorbi despre modul în care funcționează CNN în medicină pentru recunoașterea imaginilor voxel, despre cum sunt utilizate rețelele neuronale pentru a recunoaște sărăcia în Africa.

Ce sunt rețelele neuronale

Calea vizuală dorsală începe în zona vizuală primară, în coroana capului, și continuă în sus, în timp ce calea ventrală începe în partea din spate a capului și se termină aproximativ în spatele urechilor. Toată recunoașterea modelului important pe care o avem, toată semnificația de care suntem conștienți, are loc chiar acolo, în spatele urechilor.

De ce este important? Pentru că deseori este necesar să înțelegem rețelele neuronale. În primul rând, toată lumea vorbește despre asta, iar eu m-am obișnuit deja să se întâmple, iar în al doilea rând, adevărul este că toate zonele care sunt utilizate în rețelele neuronale pentru recunoașterea modelelor ne-au venit tocmai din calea vizuală ventrală, unde fiecare o zonă mică. este responsabil pentru funcția sa strict definită.

Imaginea vine la noi din retină, trece printr-o serie de zone vizuale și se termină în zona temporală.

În îndepărtații ani 60 ai secolului trecut, când studiul zonelor vizuale ale creierului abia începea, primele experimente au fost efectuate pe animale, deoarece nu exista fMRI. Creierul a fost examinat folosind electrozi implantați în diferite zone vizuale.

Prima zonă vizuală a fost explorată de David Hubel și Thorsten Wiesel în 1962. Au făcut experimente pe pisici. Pisicilor li s-au arătat diverse obiecte în mișcare. La ce au răspuns celulele creierului a fost stimulul pe care l-a recunoscut animalul. Chiar și acum, multe experimente sunt efectuate în aceste moduri draconice. Cu toate acestea, acesta este cel mai mult metoda eficienta află ce face fiecare celulă minusculă din creierul nostru.

În același mod, au fost descoperite multe mai multe proprietăți importante ale zonelor vizuale pe care le folosim acum în deep learning. Una dintre cele mai importante proprietăți este creșterea câmpurilor receptive ale celulelor noastre pe măsură ce trecem de la zonele vizuale primare la lobii temporali, adică zonele vizuale ulterioare. Câmpul receptiv este acea parte a imaginii pe care fiecare celulă din creierul nostru o procesează. Fiecare celulă are propriul câmp receptiv. Aceeași proprietate este păstrată în rețelele neuronale, așa cum probabil știți cu toții.

De asemenea, odată cu creșterea câmpurilor receptive, stimulii complexi pe care rețelele neuronale îi recunosc de obicei cresc.

Aici vedeți exemple de complexitate a stimulilor, diferitele forme bidimensionale care sunt recunoscute în zonele V2, V4 și diferite părți ale câmpurilor temporale la macaci. De asemenea, sunt efectuate o serie de experimente RMN.

Aici puteți vedea cum se desfășoară astfel de experimente. Aceasta este o parte de 1 nanometru din cortexul IT „o zone ale maimuței atunci când recunoaște diferite obiecte. Evidențiate unde este recunoscută.

Să rezumam. O proprietate importantă pe care dorim să o adoptăm din zonele vizuale este aceea că mărimile câmpurilor receptive cresc, iar complexitatea obiectelor pe care le recunoaștem crește.

viziune computerizată

Transferăm toate aceste proprietăți în rețeaua neuronală, iar acum funcționează, dacă nu includeți o mică digresiune la seturile de date, despre care voi vorbi mai târziu.

Dar mai întâi, puțin despre cel mai simplu perceptron. De asemenea, se formează după imaginea și asemănarea creierului nostru. Cel mai simplu element care seamănă cu o celulă a creierului este un neuron. Are elemente de intrare care sunt implicit de la stânga la dreapta, uneori de jos în sus. În stânga sunt părțile de intrare ale neuronului, în dreapta sunt părțile de ieșire ale neuronului.

Cel mai simplu perceptron este capabil să efectueze doar cele mai elementare operații. Pentru a efectua calcule mai complexe, avem nevoie de o structură cu mai multe straturi ascunse.

În cazul vederii computerizate, avem nevoie de și mai multe straturi ascunse. Și numai atunci sistemul va recunoaște în mod semnificativ ceea ce vede.

Deci, ce se întâmplă la recunoașterea unei imagini, vă voi spune folosind exemplul fețelor.

Pentru noi să ne uităm la această imagine și să spunem că înfățișează fața statuii este destul de simplu. Cu toate acestea, până în 2010, aceasta a fost o sarcină incredibil de dificilă pentru viziunea computerizată. Cei care s-au ocupat de această problemă înainte de această dată probabil știu cât de dificil a fost să descriem fără cuvinte obiectul pe care vrem să-l găsim în imagine.

A trebuit să o facem într-un fel geometric, să descriem obiectul, să descriem relația dintre obiect, cum aceste părți se pot relaționa între ele, apoi să găsim această imagine pe obiect, să le comparăm și să obținem ceea ce am recunoscut prost. De obicei, era puțin mai bine decât aruncarea unei monede. Puțin mai bun decât nivelul șanselor.

Acum nu este cazul. Ne împărțim imaginea fie în pixeli, fie în niște patch-uri: 2x2, 3x3, 5x5, 11x11 pixeli - la fel de convenabil pentru creatorii sistemului în care servesc ca strat de intrare în rețeaua neuronală.

Semnalele de la aceste straturi de intrare sunt transmise de la strat la strat folosind sinapse, fiecare dintre straturi având coeficienții săi specifici. Așa că trecem din strat în strat, din strat în strat, până când obținem că am recunoscut fața.

În mod convențional, toate aceste părți pot fi împărțite în trei clase, le vom desemna X, W și Y, unde X este imaginea noastră de intrare, Y este un set de etichete și trebuie să ne obținem ponderile. Cum calculăm W?

Având în vedere X și Y, acest lucru pare a fi ușor. Totuși, ceea ce este indicat printr-un asterisc este o operație neliniară foarte complexă, care, din păcate, nu are invers. Chiar și cu 2 componente date ale ecuației, este foarte dificil să o calculezi. Prin urmare, trebuie să ne asigurăm treptat, prin încercare și eroare, prin selectarea ponderii W, să ne asigurăm că eroarea scade cât mai mult posibil, este de dorit ca aceasta să devină egală cu zero.

Acest proces are loc iterativ, scădem constant până găsim valoarea ponderii W, care ne satisface suficient.

Apropo, nici o singură rețea neuronală cu care am lucrat nu a ajuns la o eroare egală cu zero, dar a funcționat destul de bine.

Iată prima rețea care a câștigat competiția internațională ImageNet în 2012. Acesta este așa-numitul AlexNet. Aceasta este rețeaua care s-a anunțat prima dată, că există rețele neuronale convoluționale, iar de atunci, în toate competițiile internaționale, rețelele neuronale convoluționale nu și-au pierdut niciodată pozițiile.

În ciuda faptului că această rețea este destul de mică (are doar 7 straturi ascunse), conține 650.000 de neuroni cu 60 de milioane de parametri. Pentru a învăța în mod iterativ cum să găsim greutățile potrivite, avem nevoie de o mulțime de exemple.

Rețeaua neuronală învață din exemplul unei imagini și al unei etichete. Așa cum ni se învață în copilărie „aceasta este o pisică și acesta este un câine”, așadar rețelele neuronale sunt antrenate pe un număr mare de imagini. Dar adevărul este că înainte de 2010 nu exista un set de date suficient de mare care să învețe atât de mulți parametri să recunoască imaginile.

Cele mai mari baze de date care existau până atunci au fost PASCAL VOC, care avea doar 20 de categorii de obiecte, și Caltech 101, care a fost dezvoltat la Institutul de Tehnologie din California. Ultima avea 101 categorii și asta a fost mult. Cei care nu-și puteau găsi obiectele în niciuna dintre aceste baze de date au trebuit să-și coste bazele de date, ceea ce, voi spune, este teribil de dureros.

Totuși, în 2010, a apărut baza de date ImageNet, în care erau 15 milioane de imagini, împărțite în 22.000 de categorii. Acest lucru a rezolvat problema noastră de formare a rețelei neuronale. Acum, toți cei care au orice adresă academică pot merge cu ușurință pe site-ul bazei, pot solicita acces și pot obține această bază pentru a-și antrena rețelele neuronale. Ei răspund destul de repede, după părerea mea, a doua zi.

În comparație cu seturile de date anterioare, aceasta este o bază de date foarte mare.

Exemplul arată cât de nesemnificativ a fost tot ce a fost înainte. Concomitent cu baza ImageNet a apărut și competiția ImageNet, o provocare internațională la care pot participa toate echipele care doresc să concureze.

Anul acesta, rețeaua creată în China a câștigat, avea 269 de straturi. Nu știu câți parametri, bănuiesc că sunt prea mulți.

Arhitectura rețelei neuronale profunde

Negrul indică acele părți care nu învață, toate celelalte straturi sunt capabile să învețe. Există multe definiții a ceea ce este în interiorul fiecărui strat convoluțional. Una dintre denumirile acceptate este aceea că un strat cu trei componente este împărțit în stadiul de convoluție, stadiul de detector și stadiul de pooling.

Nu voi intra în detalii, vor exista multe alte rapoarte care vor detalia cum funcționează acest lucru. Vă spun cu un exemplu.

Din moment ce organizatorii mi-au cerut să nu mai pomenesc de multe formule, le-am dat afară cu totul.

Deci, imaginea de intrare se încadrează într-o rețea de straturi, care pot fi numite filtre de diferite dimensiuni și complexitate diferită a elementelor pe care le recunosc. Aceste filtre formează propriul index sau set de caracteristici, care apoi intră în clasificator. De obicei, acesta este fie SVM, fie MLP - un perceptron multistrat, care este convenabil pentru oricine.

În imaginea și asemănarea cu o rețea neuronală biologică, sunt recunoscute obiecte de complexitate diferită. Pe măsură ce numărul de straturi a crescut, toate acestea au pierdut contactul cu cortexul, deoarece există un număr limitat de zone în rețeaua neuronală. 269 ​​sau multe, multe zone de abstractizare, deci se salvează doar o creștere a complexității, a numărului de elemente și a câmpurilor receptive.

Dacă ne uităm la exemplul de recunoaștere a feței, atunci câmpul nostru receptiv al primului strat va fi mic, apoi puțin mai mult, mai mult și așa mai departe până când vom putea recunoaște în sfârșit întreaga față.

În ceea ce privește ceea ce avem în interiorul filtrelor, mai întâi vor fi bețișoare înclinate plus ceva culoare, apoi părți ale fețelor, iar apoi întreaga față va fi recunoscută de fiecare celulă a stratului.

Există oameni care susțin că o persoană recunoaște întotdeauna mai bine decât o rețea. E chiar asa?

În 2014, oamenii de știință au decis să testeze cât de bine recunoaștem în comparație cu rețelele neuronale. Au luat cele mai bune 2 rețele în acest moment - acestea sunt AlexNet și rețeaua lui Matthew Ziller și Fergus, și au comparat cu răspunsul diferitelor zone ale creierului macacului, care a fost, de asemenea, învățat să recunoască unele obiecte. Obiectele erau din regnul animal pentru ca maimuța să nu se încurce și s-au efectuat experimente pentru a vedea cine ar recunoaște mai bine.

Deoarece este în mod clar imposibil să obțineți un răspuns de la o maimuță, electrozi au fost implantați în ea și răspunsul fiecărui neuron a fost măsurat direct.

S-a dovedit că, în condiții normale, celulele creierului au răspuns la fel ca modelul de ultimă generație din acel moment, adică rețeaua lui Matthew Ziller.

Cu toate acestea, odată cu creșterea vitezei de afișare a obiectelor, o creștere a numărului de zgomote și obiecte din imagine, viteza de recunoaștere și calitatea acesteia în creierul nostru și creierul primatelor scad brusc. Chiar și cea mai simplă rețea neuronală convoluțională recunoaște mai bine obiectele. Adică, oficial, rețelele neuronale funcționează mai bine decât creierul nostru.

Probleme clasice ale rețelelor neuronale convoluționale

Folosind această imagine ca exemplu, să ne uităm la ce face fiecare dintre sarcini.

• Definiţia boundaries- aceasta este sarcina de cel mai jos nivel pentru care sunt deja folosite clasic rețelele neuronale convoluționale.
• Definirea unui vector la o normală ne permite să reconstruim o imagine 3D dintr-una 2D.
• Semenţialitate, definirea obiectelor de atenţie- la asta ar fi atentă o persoană când ia în considerare această imagine.
• Segmentarea semantică vă permite să împărțiți obiectele în clase în funcție de structura lor, fără să știți nimic despre aceste obiecte, adică chiar înainte de a fi recunoscute.
• Evidențierea limitelor semantice- aceasta este selecția granițelor, împărțite în clase.
• Izolarea unor părți ale corpului uman.
• Și sarcina de cel mai înalt nivel - recunoașterea obiectelor în sine, pe care acum îl vom lua în considerare folosind exemplul recunoașterii feței.

Recunoaștere facială

Apoi putem compara acest vector de caracteristici cu toți vectorii de caracteristici care sunt stocați în baza noastră de date și să obținem o referință la o anumită persoană, la numele acesteia, la profilul său - tot ceea ce putem stoca în baza de date.

Așa funcționează produsul nostru FindFace - este un serviciu gratuit care vă ajută să căutați profilurile oamenilor în baza de date VKontakte.

În plus, avem un API pentru companiile care doresc să încerce produsele noastre. Oferim servicii de detectare a feței, verificare și identificare a utilizatorilor.

Acum am dezvoltat 2 scenarii. Prima este identificarea, căutarea unei persoane într-o bază de date. A doua este verificarea, aceasta este o comparație a două imagini cu o anumită probabilitate ca aceasta să fie aceeași persoană. În plus, în prezent dezvoltăm recunoașterea emoțiilor, recunoașterea imaginilor video și detectarea vieții - aceasta este o înțelegere a dacă o persoană este în viață în fața camerei sau a unei fotografii.

Câteva statistici. La identificare, la căutarea a 10 mii de fotografii, avem o acuratețe de aproximativ 95% în funcție de calitatea bazei de date, 99% acuratețe a verificării. Și pe lângă asta, acest algoritm este foarte rezistent la schimbări - nu trebuie să ne uităm la cameră, este posibil să avem niște obiecte care blochează: ochelari, ochelari de soare, barbă, mască medicală. În unele cazuri, putem depăși chiar dificultăți incredibile pentru vederea computerizată precum ochelarii și o mască.

Căutare foarte rapidă, procesarea a 1 miliard de fotografii durează 0,5 secunde. Am dezvoltat un index unic de căutare rapidă. De asemenea, putem lucra cu imagini de calitate scăzută de la camere CCTV. Putem procesa totul în timp real. Puteți încărca fotografii prin interfața web, prin Android, iOS și puteți căuta prin 100 de milioane de utilizatori și prin cele 250 de milioane de fotografii ale acestora.

După cum am spus, am ocupat primul loc în competiția MegaFace - un analog pentru ImageNet, dar pentru recunoașterea feței. Funcționează de câțiva ani, anul trecut am fost cei mai buni dintre 100 de echipe din toată lumea, inclusiv Google.

Rețele neuronale recurente

Se aplică recunoașterii limbajului natural, procesării video, chiar și recunoașterii imaginilor.

Nu voi vorbi despre recunoașterea limbajului natural - după raportul meu vor mai fi două care vor avea ca scop recunoașterea limbajului natural. Prin urmare, voi vorbi despre munca rețelelor recurente folosind exemplul recunoașterii emoțiilor.

Ce sunt rețelele neuronale recurente? Este aproximativ același lucru cu rețelele neuronale obișnuite, dar cu feedback. Avem nevoie de feedback pentru a transmite starea anterioară a sistemului la intrarea rețelei neuronale sau la unul dintre straturile acesteia.

Să presupunem că procesăm emoțiile. Chiar și într-un zâmbet – una dintre cele mai simple emoții – sunt mai multe momente, de la o expresie facială neutră până la momentul în care avem un zâmbet plin. Ele se succed în succesiune. Pentru a înțelege bine acest lucru, trebuie să fim capabili să observăm cum se întâmplă acest lucru, să transferăm ceea ce era pe cadrul precedent la pasul următor al sistemului.

În 2005, la competiția Emotion Recognition in the Wild, special pentru recunoașterea emoțiilor, o echipă din Montreal a prezentat un sistem recurent care părea foarte simplu. Ea a avut doar câteva straturi convoluționale și a lucrat exclusiv cu videoclipuri. Anul acesta, au adăugat, de asemenea, recunoaștere audio și date agregate cadru cu cadru care sunt obținute din rețelele neuronale convoluționale, date de semnal audio cu o rețea neuronală recurentă (cu returnare de stat) și au câștigat primul loc în competiție.

Consolidarea învățării

Cert este că în cele două cazuri anterioare folosim baze de date. Avem fie date de la chipuri, fie date din imagini, fie date cu emoții din videoclipuri. Dacă nu îl avem, dacă nu îl putem filma, cum îl putem învăța pe robot să ridice obiecte? Facem acest lucru automat - nu știm cum funcționează. Un alt exemplu: compilarea bazelor de date mari în jocuri pe calculator dificil, și nu este necesar, se poate face mult mai ușor.

Probabil că toată lumea a auzit despre succesul învățării prin consolidare profundă în Atari și Go.

Cine a auzit de Atari? Ei bine, cineva a auzit, bine. Cred că toată lumea a auzit despre AlphaGo, așa că nici măcar nu vă voi spune ce se întâmplă exact acolo.

Ce se întâmplă la Atari? Arhitectura acestei rețele neuronale este afișată doar în stânga. Ea învață jucându-se cu ea însăși pentru a obține recompensa maximă. Recompensa maximă este cel mai rapid rezultat al jocului cu cel mai mare scor posibil.

Dreapta sus - ultimul strat al rețelei neuronale, care înfățișează întregul număr de stări ale sistemului, care s-a jucat împotriva sa doar două ore. Roșu arată rezultatele dorite ale jocului cu recompensă maximă, iar albastru - nedorit. Rețeaua construiește un anumit câmp și se deplasează prin straturile sale antrenate până la starea pe care dorește să o obțină.

În robotică, situația este puțin diferită. De ce? Aici avem mai multe complicații. În primul rând, nu avem multe baze de date. În al doilea rând, trebuie să coordonăm trei sisteme deodată: percepția robotului, acțiunile acestuia cu ajutorul manipulatorilor și memoria sa - ce s-a făcut în pasul anterior și cum a fost făcut. În general, toate acestea sunt foarte dificile.

Cert este că nici o singură rețea neuronală, chiar și învățarea profundă în acest moment, nu poate face față acestei sarcini suficient de eficient, așa că învățarea profundă este doar o parte din ceea ce trebuie să facă roboții. De exemplu, Sergey Levin a oferit recent un sistem care învață un robot să apuce obiecte.

Iată experimentele pe care le-a efectuat pe cele 14 brațe robotizate ale sale.

Ce se petrece aici? În aceste lighene pe care le vezi în fața ta sunt diverse obiecte: pixuri, radiere, căni din ce în ce mai mari, cârpe, texturi diferite, durități diferite. Nu este clar cum să antrenezi robotul să-i captureze. Timp de multe ore, și chiar, de genul, săptămâni, roboți antrenați să poată captura aceste obiecte, cu această ocazie au fost compilate baze de date.

Bazele de date sunt un fel de răspuns de mediu pe care trebuie să-l acumulăm pentru a putea antrena robotul să facă ceva în viitor. În viitor, roboții vor fi instruiți pe acest set de stări ale sistemului.

Aplicații non-standard ale rețelelor neuronale

Deci, oamenii de știință de la Stanford au venit recent cu o aplicație foarte neobișnuită a rețelei neuronale CNN pentru predicția sărăciei. Ce au facut?

De fapt, conceptul este foarte simplu. Cert este că în Africa nivelul sărăciei depășește toate limitele imaginabile și de neimaginat. Ei nici măcar nu au capacitatea de a colecta date social-demografice. Prin urmare, din 2005, nu avem deloc date despre ceea ce se întâmplă acolo.

Oamenii de știință au colectat hărți de zi și de noapte de la sateliți și le-au alimentat rețelei neuronale de-a lungul timpului.

Rețeaua neuronală a fost preconfigurată pe ImageNet „e. Adică primele straturi de filtre au fost configurate astfel încât să poată recunoaște deja niște lucruri foarte simple, de exemplu, acoperișurile caselor, pentru a căuta o așezare pe hărți de zi. Apoi hărți de zi. au fost comparate cu hărți pe timp de noapte.iluminarea aceleiași zone a suprafeței pentru a spune câți bani are populația pentru a-și lumina locuințele cel puțin pe timpul nopții.

Aici vezi rezultatele predicției construite de rețeaua neuronală. Prognoza a fost făcută cu diferite rezoluții. Și vedeți - chiar ultimul cadru - date reale culese de guvernul Ugandei în 2005.

Se poate observa că rețeaua neuronală a constituit suficient prognoză precisă, chiar și cu o ușoară schimbare din 2005.

Au fost, desigur, efecte secundare. Oamenii de știință care sunt implicați în învățarea profundă sunt întotdeauna surprinși să găsească diferite efecte secundare. De exemplu, precum cele pe care rețeaua le-a învățat să le recunoască apa, pădurile, șantierele mari, drumurile – toate acestea fără profesori, fără baze de date prefabricate. În general complet independent. Au existat anumite straturi care au reacționat, de exemplu, la drumuri.

Iar ultima aplicație despre care aș vrea să vorbesc este segmentarea semantică a imaginilor 3D în medicină. În general, imagistica medicală este un domeniu complex cu care este foarte greu de lucrat.

Există mai multe motive pentru aceasta.

• Avem foarte puține baze de date. Nu este atât de ușor să găsești o poză a creierului, pe lângă deteriorată, și, de asemenea, este imposibil să o faci de oriunde.
• Chiar dacă avem o astfel de poză, trebuie să luăm un medic și să-l forțăm să plaseze manual toate imaginile cu mai multe straturi, ceea ce consumă foarte mult timp și extrem de ineficient. Nu toți medicii au resursele necesare pentru a face acest lucru.
• Este necesară o precizie foarte mare. sistem medical nu poate greși. Când au recunoscut, de exemplu, foci, nu au recunoscut - este în regulă. Și dacă nu recunoaștem tumora, atunci aceasta nu este foarte bună. Există cerințe deosebit de dure pentru fiabilitatea sistemului.
• Imaginile în elemente tridimensionale - voxeli, nu pixeli, ceea ce aduce o complexitate suplimentară proiectanților de sisteme.

Unde este folosit: pentru a determina deteriorarea după o lovitură, pentru a căuta o tumoră la creier, în cardiologie pentru a determina cum funcționează inima.

Iată un exemplu pentru determinarea volumului placentei.

În mod automat, funcționează bine, dar nu suficient pentru ca acesta să fie lansat în producție, așa că abia începe. Există mai multe startup-uri pentru a crea astfel de sisteme vederii medicale. În general, există o mulțime de startup-uri în deep learning în viitorul apropiat. Ei spun că capitaliștii de risc au alocat mai mult buget pentru startup-urile de deep learning în ultimele șase luni decât în ​​ultimii 5 ani.

Această zonă se dezvoltă activ, există multe direcții interesante. Trăim vremuri interesante. Dacă sunteți implicat în deep learning, atunci probabil că este timpul să vă deschideți propriul startup.

Ei bine, probabil că voi ajunge cu asta. Mulțumesc foarte mult.

Rețele neuronale în medicină

Alexander Yezhov, Vladimir Cechetkin

Institutul pentru Inovare și Cercetare de Fuziune, Troitsk

[email protected]

Sisteme specifice

Luptă împotriva cancerului

Neurosisteme, genetică și molecule

Rețelele neuronale plimbă planeta

În loc de o concluzie

Durere ascuțită în piept. O ambulanță duce pacientul la camera de urgență, unde medicul de gardă trebuie să pună un diagnostic și să stabilească dacă este într-adevăr un infarct miocardic. Experiența arată că proporția pacienților care au avut un infarct dintre cei internați cu simptome similare este mică. Cu toate acestea, încă nu există metode de diagnosticare precise. Electrocardiograma uneori nu conține semne evidente boală. Și câți parametri ai stării pacientului pot ajuta într-un fel sau altul la stabilirea unui diagnostic corect în acest caz? Peste patruzeci. Poate medicul de la urgențe să analizeze rapid toți acești indicatori, împreună cu relațiile lor, pentru a lua o decizie privind trimiterea pacientului la secția de cardiologie? Într-o oarecare măsură, tehnologiile rețelelor neuronale ajută la rezolvarea acestei probleme.

Statisticile sunt următoarele: medicul diagnostichează corect infarctul miocardic la 88% dintre pacienți și pune în mod eronat acest diagnostic în 29% din cazuri. Sunt prea multe alarme false (supradiagnosticare). Istoricul utilizării diferitelor metode de prelucrare a datelor pentru îmbunătățirea calității diagnosticului datează de zeci de ani, dar cele mai bune dintre ele au contribuit la reducerea numărului de cazuri de supradiagnostic cu doar 3%.

În 1990, William Bakst de la Universitatea din California din San Diego a folosit o rețea neuronală - un perceptron multistrat - pentru a recunoaște infarctul miocardic la pacienții internați la camera de urgență cu durere acutăîn piept. Scopul său a fost să creeze un instrument care să-i ajute pe medicii care nu pot face față fluxului de date care caracterizează starea pacientului internat. Un alt obiectiv poate fi îmbunătățirea diagnosticului. Cercetătorul și-a îngreunat sarcina, deoarece a analizat datele doar ale acelor pacienți care fuseseră deja îndrumați la secția de cardiologie. Bakst a folosit doar 20 de parametri, printre care vârsta, sexul, localizarea durerii, răspunsul la nitroglicerină, greață și vărsături, transpirație, sincopă, frecvență respiratorie, frecvență cardiacă, infarcte anterioare, diabet, hipertensiune arterială, distensie a venei jugulare, o serie de Caracteristicile ECG și prezența unor modificări ischemice semnificative.

Rețeaua a avut o acuratețe de 92% în detectarea infarctului miocardic și a produs doar 4% alarme false, confirmând în mod eronat trimiterea pacienților fără infarct la sectia de cardiologie. Deci, există un fapt de aplicare cu succes a rețelelor neuronale artificiale în diagnosticul bolii. Acum este necesar să explicăm în ce parametri se evaluează calitatea diagnosticului în cazul general. Să presupunem că din zece oameni care au de fapt un atac de cord, metoda de diagnosticare vă permite să detectați boala în opt. Atunci sensibilitatea metodei va fi de 80%. Dacă luăm zece persoane care nu au un atac de cord, iar metoda de diagnosticare îl suspectează la trei persoane, atunci proporția alarmelor false va fi de 30%, în timp ce o caracteristică suplimentară a acesteia - specificul metodei - va fi egală. la 70%.

O metodă de diagnostic ideală ar trebui să aibă o sensibilitate și o specificitate sută la sută - în primul rând, să nu rateze o singură persoană cu adevărat bolnavă și, în al doilea rând, să nu sperie oamenii sănătoși. Pentru a vă asigura, puteți și trebuie să încercați în primul rând să asigurați o sensibilitate sută la sută a metodei - nu puteți rata boala. Dar acest lucru duce, de regulă, la specificitatea scăzută a metodei - la mulți oameni, medicii suspectează boli de care pacienții nu suferă de fapt.

Rețele neuronale pentru sarcini de diagnosticare

Rețelele neuronale sunt sisteme neliniare care permit o clasificare mult mai bună a datelor decât metodele liniare utilizate în mod obișnuit. Când sunt aplicate diagnosticului medical, ele fac posibilă creșterea semnificativă a specificității metodei fără a reduce sensibilitatea acesteia.

Amintiți-vă că rețeaua neuronală care diagnostica un atac de cord a funcționat cu un set mare de parametri, al căror impact asupra diagnosticului unei persoane nu poate fi evaluat. Cu toate acestea, rețelele neuronale au putut să ia decizii pe baza tiparelor ascunse pe care le-au identificat în datele multidimensionale. Proprietate distinctivă rețelele neuronale este că nu sunt programate - nu folosesc nicio regulă de inferență pentru a face un diagnostic, ci învață să o facă prin exemple. În acest sens, rețelele neuronale nu seamănă deloc cu sistemele expert, a căror dezvoltare în anii 70 a avut loc după „victoria” temporară a Inteligenței Artificiale asupra abordării modelării memoriei, recunoașterii modelelor și generalizării, care s-a bazat pe studiu. a organizării neuronale a creierului.

Unul dintre cele mai cunoscute dintre sistemele expert dezvoltate, a cărui funcționare s-a bazat pe cunoștințele extrase de la experți și pe implementarea procedurilor de inferență, a fost sistemul MYCIN. Acest sistem a fost dezvoltat la Stanford la începutul anilor 70 pentru a diagnostica șoc septic. Jumătate dintre pacienți au murit din cauza acesteia în decurs de o zi, iar medicii au putut detecta sepsisul în doar 50% din cazuri. MYCIN părea a fi un adevărat triumf al tehnologiei sistemelor expert, deoarece putea detecta sepsisul 100% din timp. Cu toate acestea, după o cunoaștere mai atentă a acestui sistem expert, medicii au îmbunătățit semnificativ metodele tradiționale de diagnosticare, iar MYCIN și-a pierdut semnificația, transformându-se într-un sistem educațional. Sistemele experte „au mers” doar în cardiologie - pentru analiza electrocardiogramelor. Regulile complexe care alcătuiesc conținutul principal al cărților pe analiza clinica ECG, au fost utilizate de sistemele respective pentru emiterea unei concluzii de diagnostic.

Diagnosticarea este un caz special de clasificare a evenimentelor, iar cea mai valoroasă este clasificarea acelor evenimente care nu sunt în setul de antrenament al rețelei neuronale. Aici se manifestă avantajul tehnologiilor rețelelor neuronale - sunt capabili să realizeze o astfel de clasificare, generalizând experiența anterioară și aplicând-o în cazuri noi.

Sisteme specifice

Un exemplu de program de diagnostic este pachetul de cardiodiagnostic dezvoltat de RES Informatica împreună cu Centrul de Cercetări Cardiologice din Milano. Programul permite cardiodiagnostic non-invaziv bazat pe recunoașterea spectrelor tahogramelor. Tahograma este o histogramă a intervalelor dintre bătăile succesive ale inimii, iar spectrul său reflectă echilibrul activităților sistemului nervos simpatic și parasimpatic uman, care se modifică în mod specific în diferite boli.

Într-un fel sau altul, deja se poate afirma că rețelele neuronale se transformă într-un instrument de cardiodiagnostic – în Anglia, de exemplu, sunt folosite în patru spitale pentru a preveni infarctul miocardic.

În medicină, se folosește și o altă caracteristică a rețelelor neuronale - capacitatea lor de a prezice secvențe temporale. S-a remarcat deja că sistemele expert au reușit în analiza ECG. Rețelele neuronale sunt de asemenea utile aici. Ki Zhenghu, Yu Henu și Willis Tompkins de la Universitatea din Wisconsin au dezvoltat un sistem de filtrare a rețelei neuronale pentru electrocardiograme care poate suprima zgomotul neliniar și non-staționar mult mai bine decât metodele utilizate anterior. Faptul este că rețeaua neuronală a prezis bine zgomotul după valorile sale din momentele anterioare. Iar faptul că rețelele neuronale sunt foarte eficiente pentru prezicerea secvențelor de timp (cum ar fi, de exemplu, cursurile de schimb sau cotațiile bursiere) a fost demonstrat în mod convingător de rezultatele competiției de programe predictive desfășurate de Universitatea din Santa Fe - rețelele neuronale au luat primul loc loc si dominat printre cele mai bune metode.

Posibilitati de utilizare a retelelor neuronale

ECG-ul este o aplicație privată, deși extrem de importantă. Cu toate acestea, astăzi există multe alte exemple de utilizare a rețelelor neuronale pentru predicții medicale. Se știe că cozile lungi în secțiile de chirurgie cardiacă (de la săptămâni la luni) sunt cauzate de lipsa secțiilor de terapie intensivă. Nu este posibilă creșterea numărului acestora din cauza costului ridicat al îngrijirilor de resuscitare (americanii cheltuiesc 70% din fonduri în ultimele 2 săptămâni de viață în acest departament).

Singura cale de ieșire este utilizarea mai eficientă a fondurilor disponibile. Să presupunem că starea pacienților operați într-o anumită zi este atât de gravă încât au nevoie de o ședere lungă în secția de terapie intensivă (mai mult de două zile). În tot acest timp, chirurgii vor sta inactiv, pentru că nu există unde să-i pună pe pacienții nou operați. Este mai înțelept să operați pacienții grav bolnavi înainte de weekend sau sărbători - sălile de operație sunt încă închise în aceste zile, chirurgii se vor odihni, iar pacienții se vor recupera la terapie intensivă. Dar la începutul săptămânii de lucru, este mai bine să operați acei pacienți care vor trebui să fie în secția de terapie intensivă doar una sau două zile. Apoi paturile din secția de terapie intensivă vor fi eliberate mai repede și vor primi pacienți noi operați marți și miercuri.

Întrebarea este cum să ghicești cine va trebui să rămână în secția de terapie intensivă mult timp după operație și cine nu. Jack Too și Michael Guerier de la Spitalul St. Michael din Universitatea din Toronto au folosit rețele neuronale pentru a face această predicție. Ca date inițiale au luat doar acele informații despre pacient care sunt cunoscute în perioada preoperatorie. Rețineți că în studiile anterioare care nu au folosit rețele neuronale, informații postoperatorii importante au fost folosite și ca factori pentru un risc crescut de a rămâne la terapie intensivă - diverse complicații apărute în timpul intervenției chirurgicale.

Tu și Guerir au antrenat un perceptron cu două straturi pentru a împărți pacienții în trei grupuri de risc, luând în considerare vârsta, sexul, starea funcțională a ventriculului stâng, gradul de complexitate al operației viitoare și prezența bolilor concomitente. Dintre acei pacienți identificați de rețea ca având un risc scăzut de întârziere la terapie intensivă, doar 16,3% au petrecut efectiv mai mult de două zile la terapie intensivă. Totodată, peste 60% dintre cei identificați de rețea ca fiind cu risc ridicat au fost la înălțimea prognosticului nefavorabil.

Luptă împotriva cancerului

Am acordat o atenție deosebită bolilor cardiovasculare, deoarece acestea dețin liderul trist în lista cauzelor de deces. Pe locul doi sunt bolile oncologice. Unul dintre principalele domenii în care se lucrează în prezent cu privire la utilizarea rețelelor neuronale este diagnosticul cancerului de sân. Această boală este cauza decesului fiecărei a nouă femei.

Detectarea tumorii se realizează în timpul analizei inițiale cu raze X a sânului (mamografie) și analizei ulterioare a unei bucăți de țesut tumoral (biopsie). În ciuda existenței unor reguli generale de diferențiere a neoplasmelor benigne și maligne, conform mamografiei, doar 10 până la 20% din rezultatele biopsiei chirurgicale ulterioare confirmă cu adevărat prezența cancerului de sân. Din nou, avem de-a face cu un caz de specificitate a metodei extrem de scăzută.

Cercetătorii de la Universitatea Duke au pregătit o rețea neuronală pentru a recunoaște mamografiile țesutului malign pe baza a opt caracteristici cu care se confruntă în mod obișnuit radiologii. S-a dovedit că rețeaua este capabilă să rezolve problema cu o sensibilitate de aproximativ 100% și o specificitate de 59% (comparativ cu 10-20% pentru radiologi). Câte femei cu tumori benigne pot fi salvate de stresul de a face o biopsie folosind această rețea neuronală! La Clinica Mayo (Minnesota), rețeaua neuronală a analizat rezultatele ecografiei mamare și a oferit o specificitate de 40%, în timp ce pentru aceleași femei, specificitatea concluziei radiologilor s-a dovedit a fi zero. Nu este adevărat că succesul utilizării tehnologiilor rețelelor neuronale nu pare deloc întâmplător?

După tratamentul pentru cancerul de sân, este posibilă reapariția tumorii. Rețelele neuronale ajută deja să le prezică în mod eficient. Cercetări similare sunt efectuate la Universitatea din Texas Medical School. Rețelele antrenate și-au demonstrat capacitatea de a identifica și lua în considerare relații foarte complexe ale variabilelor predictive, în special relațiile lor triple pentru a îmbunătăți capacitatea de predicție.

Posibilitățile de utilizare a rețelelor neuronale în medicină sunt diverse, iar arhitectura lor este diversă. Pe baza prognozei rezultatelor pe termen lung ale tratamentului bolii printr-o metodă sau alta, una dintre ele poate fi preferată. Un rezultat semnificativ în prognosticul tratamentului cancerului ovarian (o boală a fiecărei a șaptezeci de femei) a fost obținut de celebrul specialist olandez Herbert Kappen de la Universitatea din Nimegen (el folosește în munca sa nu perceptroni multistrat, ci așa-numitul Boltzmann Mașini - rețele neuronale pentru evaluarea probabilităților).

Iată un exemplu de alt tip de cancer. Cercetătorii de la o școală de medicină din Kagawa, Japonia, au pregătit o rețea neuronală care a prezis rezultatele rezecțiilor hepatice la pacienții cu carcinom hepatocelular cu date preoperatorii aproape fără erori.

La Institutul Troitsk pentru Inovare și Cercetare de Fuziune (TRINITI), ca parte a unui proiect de creare a sistemelor de consultare a rețelei neuronale implementat de Ministerul Științei, a fost dezvoltat un program de rețea neuronală care selectează o metodă de tratament pentru cancerul de piele cu celule bazale (basaliom) pe baza unui prognostic pe termen lung al recidivei. Numărul cazurilor de bazaliom - o boală oncologică a persoanelor cu piele albă cu piele subțire - este o treime din toate bolile oncologice.

Diagnosticul uneia dintre formele de melanom - o tumoare, care uneori este dificil de distins de forma pigmentată a bazaliomului, a fost implementat folosind simulatorul de rețea neuronală Multineuron dezvoltat la Centrul de calcul al SOAN din Krasnoyarsk sub îndrumarea lui A.N. Gorban.

Scurta descriere

Rețele neuronale pentru sarcini de diagnosticare

Sisteme specifice

Posibilitati de utilizare a retelelor neuronale

Luptă împotriva cancerului

Neurosisteme, genetică și molecule

Rețelele neuronale plimbă planeta

Rețelele neuronale diagnostichează problemele cardiace mai precis decât medicii

• Medgadgets,
• Sănătate tocilar,

Factorul uman provoacă adesea probleme. Acest lucru se aplică producției, situațiilor de zi cu zi, conducerii și, bineînțeles, medicinei. Greșeala unui medic poate însemna o pierdere a sănătății sau chiar a vieții unui pacient, iar medicii greșesc nu neobișnuit. Chiar și un profesionist de cel mai înalt standard poate face greșeli - la urma urmei, un specialist poate fi obosit, iritat, concentrându-se asupra unei probleme mai grave decât de obicei.

În acest caz, mașinile pot veni în ajutor. Același sistem cognitiv IBM Watson, de exemplu, este destul de bine gestionat cu munca în domeniul medical (oncologie, citirea cu raze X etc.). Există însă și alte soluții propuse de cercetători independenți. Una dintre aceste soluții a fost creată de oamenii de știință de la Stanford conduși de Andrew Angie, un cunoscut specialist în inteligență artificială în domeniul său.

El și colegii săi au dezvoltat un sistem care este capabil să diagnosticheze aritmia cardiacă dintr-o cardiogramă, iar un computer face acest lucru mai bine decât un expert. Vorbim despre o rețea neuronală cu care, după antrenament, este capabilă să diagnosticheze aritmia un grad înalt precizie. În același timp, computerul funcționează nu numai mai fiabil, ci și mai rapid decât rețeaua neuronală, astfel încât sarcina de a analiza imagini medicale și Rezultate ECG poate fi transferat pe un computer după „terminarea” finală a sistemului. Medicul nu poate decât să verifice funcționarea platformei software și hardware în cauză și să acționeze în conformitate cu diagnosticul final.

Acest proiect arată cât de mult poate schimba computerul medicina prin îmbunătățirea diferitelor aspecte ale acestui domeniu. Rețelele neuronale îi ajută deja pe medici să diagnosticheze cancerul de piele, cancerul de sân și bolile oculare. Acum a venit rândul cardiologiei.

„Îmi place foarte mult cât de repede acceptă oamenii ideea că învățarea profundă poate ajuta la îmbunătățirea acurateței diagnosticului unui medic”, spune Angie. De asemenea, crede că posibilitățile sistemelor informatice nu se limitează la asta, ele pot fi folosite în multe alte domenii.

Echipa de la Stanford a petrecut mult timp antrenând rețeaua neuronală, astfel încât sistemul să poată identifica anomalii în datele ECG. În același timp, aritmia este foarte boala periculoasa, poate duce la moarte subita din stop cardiac. Problema este că aritmia nu este atât de ușor de detectat, așa că pacienții cu aritmii suspectate trebuie uneori să poarte un senzor ECG timp de câteva săptămâni. Și chiar și după aceea, este posibil să nu existe suficiente date pentru a diagnostica abaterile.

După cum am menționat mai sus, rețeaua neuronală a trebuit să fie antrenată, și pe exemplul indicatorilor reali ai pacienților din spital. Colectați singur câteva zeci de mii de rezultate măsurători ECG Stanford nu a reușit, așa că au colaborat cu iRhythm, o companie care produce gadgeturi portabile ECG. Compania a furnizat 30.000 de înregistrări de 30 de secunde ale rezultatelor măsurătorilor mușchiului inimii la pacienții care suferă de forme diferite aritmii. Pentru a crește acuratețea algoritmului, precum și pentru a compara rezultatele computerului cu rezultatele diagnosticelor medicilor, au fost folosite alte 300 de înregistrări. Au fost analizate simultan atât de aparat, cât și de medici. Apoi rezultatele au fost evaluate de un juriu special, care a inclus 3 cardiologi extraclasi.

Învățarea profundă a unei rețele neuronale a început cu „alimentarea” unei cantități uriașe de date. Apoi ajustarea fină a fost folosită pentru a îmbunătăți acuratețea diagnosticelor.

Pe lângă specialiștii menționați mai sus, alte grupuri folosesc machine learning pentru a crea sisteme capabile să diagnosticheze aritmiile. De exemplu, Eric Horowitz, managing director al Microsoft Research (el însuși este medic) și colegii săi lucrează aproximativ în aceeași direcție ca și specialiștii de la Stanford. În opinia lor, rețelele neuronale pot îmbunătăți cu adevărat calitatea îngrijirii medicale pentru pacienți, ajutând medicii să petreacă mai puțin timp rutină și mai mult timp căutând. metode eficiente tratamentul pacientilor lor.

Etichete:

• rețele neuronale
• medicii
• medicamentul

Dar și pentru a rezolva sarcini mai importante - de exemplu, pentru a căuta noi medicamente. Satul a apelat la experți pentru a afla care sunt caracteristicile tehnologiei și cum o folosesc companiile și universitățile locale.

Ce sunt rețelele neuronale?

Pentru a înțelege ce loc ocupă rețelele neuronale în lumea inteligenței artificiale și cum sunt legate de alte tehnologii de creare a sistemelor inteligente, să începem cu definiții.

Rețele neuronale- una dintre metodele de învățare automată, ale cărei fundamente și-au luat naștere în 1943, chiar înainte de apariția termenului de „inteligență artificială”. Sunt un model matematic care seamănă la distanță cu munca sistemului nervos al animalelor.

Potrivit unui cercetător senior de la Universitatea Innopolis, Stanislav Protasov, cel mai apropiat analog creier uman sunt rețele neuronale convoluționale inventate de matematicianul Jan LeCun. „Ele sunt în centrul multor aplicații care pretind a fi inteligență artificială, cum ar fi FindFace sau Prisma”, notează el.

Învățare automată- o subsecțiune a inteligenței artificiale la intersecția dintre matematică și informatică. Studiază metode de construire a modelelor și algoritmilor bazați pe principiul învățării. Aparatul analizează exemplele introduse, identifică tipare, le generalizează și construiește reguli care rezolvă diverse probleme - de exemplu, predicții dezvoltare ulterioară evenimente sau recunoașterea și generarea de imagini, text și vorbire. Pe lângă rețelele neuronale, aici sunt utilizate și metode de regresie liniară, arbori de decizie și alte abordări.

Inteligență artificială- o secțiune de informatică privind crearea mijloacelor tehnologice pentru ca mașinile să îndeplinească sarcini care anterior erau considerate exclusiv apanajul omului, precum și desemnarea unor astfel de dezvoltări. Direcția a luat contur oficial în 1956.

Alexandru Krainov

Ceea ce se poate numi inteligență artificială și ceea ce nu este este o chestiune de acord. În general, omenirea nu a ajuns la o formulare clară a ceea ce este inteligența în general, ca să nu mai vorbim de artificială. Dar dacă rezumăm ceea ce se întâmplă, atunci putem spune că inteligența artificială este rețele neuronale profunde care rezolvă probleme complexe la un nivel apropiat de nivelul unei persoane și, într-o oarecare măsură, auto-învățare. În același timp, auto-învățarea înseamnă aici capacitatea de a extrage independent un semnal util din datele brute.

Care este starea actuală a industriei?

Potrivit Gartner, o agenție de analiză, învățarea automată se află acum la vârful așteptărilor umflate. Tipic pentru această etapă, entuziasmul din jur tehnologie nouă duce la un entuziasm excesiv, care se transformă în încercări nereușite de a-l folosi peste tot. Se estimează că industria va avea nevoie de la doi până la cinci ani pentru a scăpa de iluzii. Potrivit experților ruși, rețelele neuronale vor trebui să treacă în curând un test de rezistență.

Serghei Negodiaev

Manager de portofoliu, Fondul de Dezvoltare a Inițiativelor pe Internet

Deși oamenii de știință oficializează și dezvoltă rețele neuronale de 70 de ani, există două momente de cotitură în dezvoltarea acestei tehnologii. Prima a fost în 2007, când Universitatea din Toronto a creat algoritmi de învățare profundă pentru rețelele neuronale multistrat. Al doilea moment care a provocat boom-ul actual a fost 2012, când cercetătorii de la aceeași universitate au aplicat rețele neuronale profunde și au câștigat competiția ImageNet, după ce au învățat să recunoască obiectele din fotografii și videoclipuri cu un minim de erori.

Acum există suficientă putere a computerului pentru a rezolva, dacă nu oricare, atunci marea majoritate a sarcinilor bazate pe rețele neuronale. Acum principalul obstacol este lipsa datelor etichetate. Relativ vorbind, pentru ca sistemul să învețe să recunoască un apus de soare într-un videoclip sau într-o fotografie, trebuie să alimenteze un milion de imagini cu apus, indicând exact unde se află acesta în cadru. De exemplu, când încarci o fotografie pe Facebook, prietenii tăi o recunosc ca pe o pisică în razele soarelui apus, iar rețeaua de socializare vede în ea un set de etichete: „animal”, „pisica”, „de lemn”, „etaj”, „seară”, „portocaliu”. Cine are mai multe date de antrenament va avea o rețea neuronală care va fi mai inteligentă.

Andrei Kalinin

Şeful Poisk Mail.Ru

Aplicațiile de divertisment bazate pe rețele neuronale, cum ar fi Artisto sau Vinci, sunt doar vârful aisbergului și o modalitate excelentă de a-și prezenta capacitățile unui public mai larg. De fapt, rețelele neuronale sunt capabile să rezolve o serie de probleme complexe. Cele mai „fierbinți” zone acum sunt piloții automati, asistenții vocali, robotii de chat și medicamentele.

Alexandru Krainov

Șeful Serviciului Computer Vision, Yandex

Putem spune că boom-ul rețelelor neuronale a sosit deja, dar încă nu a atins apogeul. Mai departe, va fi doar mai interesant. Cele mai promițătoare domenii astăzi sunt, probabil, viziunea computerizată, sistemele de dialog, analiza textului, robotica, vehiculele fără pilot și generarea de conținut - texte, imagini, muzică.

Zone promițătoare pentru implementarea rețelelor neuronale

Transport

Robotică

Biotehnologie

Agricultură

internetul Lucrurilor

Media și divertisment

Lingvistică

Securitate

Vlad Shershulsky

Director al Programelor de Cooperare Tehnologică Microsoft în Rusia

Revoluția neuronală a avut loc deja astăzi. Uneori este chiar dificil să distingem ficțiunea de realitate. Imaginați-vă o mașină de recoltat automată cu mai multe camere. Face 5 mii de poze pe minut și analizează prin rețeaua neuronală dacă buruiana este în fața lui sau planta infectată cu dăunători, după care decide ce să facă în continuare. Fantezie? Chiar nu mai.

Boris Wolfson

Director Dezvoltare Headhunter

Există un anumit hype în jurul rețelelor neuronale și, după părerea mea, așteptări puțin mari. Vom trece printr-o perioadă de frustrare înainte de a învăța cum să le folosim eficient. Multe rezultate de cercetare inovatoare nu sunt încă foarte aplicabile în afaceri. În practică, este adesea mai rezonabil să folosiți alte metode de învățare automată - de exemplu, diverși algoritmi bazați pe arbori de decizie. Probabil că nu pare la fel de incitant sau futurist, dar aceste abordări sunt foarte frecvente.

Ce învață rețelele neuronale în Rusia?

Participanții pe piață sunt de acord că multe realizări ale rețelelor neuronale sunt încă aplicabile doar în domeniul academic. Dincolo de granițele sale, tehnologia este folosită în principal în aplicații de divertisment, care alimentează interesul pentru subiect. Cu toate acestea, dezvoltatorii ruși învață rețelele neuronale să rezolve probleme semnificative din punct de vedere social și de afaceri. Să aruncăm o privire mai atentă asupra unor zone.

Știință și medicină

Școala Yandex de Analiză a Datelor participă la experimentul CRAYFIS împreună cu reprezentanți de la Skolkovo, Institutul de Fizică și Tehnologie din Moscova, Școala Superioară de Economie și universitățile americane UCI și NYU. Esența sa este căutarea particulelor cosmice cu energie ultra-înaltă folosind smartphone-uri. Datele de la camere sunt transmise la rețelele neuronale accelerate, capabile să capteze urme de particule care interacționează slab în imagini.

Acesta nu este singurul experiment internațional în care sunt implicați specialiști ruși. Oamenii de știință de la Universitatea Innopolis, Manuel Mazzara și Leonard Johard, sunt implicați în proiectul BioDynaMo. Cu sprijinul Intel și CERN, ei doresc să creeze un prototip care să poată reproduce o simulare la scară completă a cortexului cerebral. Cu ajutorul acestuia, este planificată creșterea eficienței și economiei experimentelor care necesită prezența unui creier uman viu.

Profesorul de la Innopolis Yaroslav Kholodov a participat la dezvoltarea unui model computerizat capabil să prezică formarea legăturilor proteice de zece ori mai rapid. Cu acest algoritm, dezvoltarea vaccinurilor și a medicamentelor poate fi accelerată. În aceeași zonă s-au remarcat dezvoltatori de la Mail.Ru Group, Insilico Medicine și MIPT. Ei au folosit rețele generative adverse, instruiți să inventeze structuri moleculare, să caute substanțe care ar putea fi utile în boli, de la cancer la boli cardiovasculare.

frumusete si sanatate

În 2015, compania rusă Youth Laboratories a lansat primul concurs internațional de frumusețe Beauty.AI. Fotografiile participanților la ea au fost evaluate de rețele neuronale. La stabilirea câștigătorilor, aceștia au ținut cont de sexul, vârsta, naționalitatea, culoarea pielii, simetria facială și prezența sau absența ridurilor la utilizatori. Ultimul factor i-a determinat pe organizatori să creeze serviciul RYNKL, care vă permite să urmăriți modul în care îmbătrânirea afectează pielea și modul în care diferite medicamente o combate.

Rețelele neuronale sunt folosite și în telemedicină. Compania rusă Mobile Medical Technologies, care gestionează proiectele Online Doctor și Pediatru 24/7, testează un bot de diagnostic care va fi util atât pacienților, cât și medicilor. Pentru primul, el vă va spune la ce specialist să contactați pentru anumite simptome, iar pentru al doilea vă va ajuta să determinați de ce anume este bolnav vizitatorul.

Optimizarea proceselor de afaceri și a reclamei

Startup-ul rus Leadza a reușit să folosească rețelele neuronale pentru a aloca mai eficient bugetul pentru publicitate pe Facebook și Instagram. Algoritmul analizează rezultatele campaniilor anterioare, construiește o prognoză a parametrilor cheie și, pe baza acestora, redistribuie automat costurile, astfel încât magazinele online să poată obține mai mulți clienți la un cost mai mic.

Echipa GuaranaCam a folosit tehnologii de învățare automată pentru a evalua eficiența plasării offline a produselor și a materialelor publicitare. Sistemul se bazează pe cloud-ul Microsoft Azure și analizează comportamentul consumatorilor folosind camere CCTV. Proprietarii de afaceri primesc un raport de starea tranzacționării în timp real. Proiectul este deja implementat în centru comercial„Mega Belaya Dacha”.

Exemplele interne de succes de utilizare a rețelelor neuronale în afaceri nu se termină aici. LogistiX, care experimentează tehnologii de inteligență artificială din 2006, a dezvoltat un sistem de optimizare a depozitelor. Se bazează pe o rețea neuronală de învățare care analizează datele despre angajați primite de la trackere de fitness și redistribuie sarcina între ei. Acum, echipa învață rețelele neuronale să facă distincția între căsătorie.

Holdingul Belfingroup a mers și mai departe. „Fiica” sa BFG-soft a creat o platformă cloud BFG-IS, care vă permite să gestionați întreprinderea folosind modelul său virtual. Acesta din urmă este construit automat pe baza datelor de producție colectate de sistem și nu numai că arată cum se organizează cel mai bine procesele ținând cont de obiectivele stabilite, dar și prezice consecințele oricăror modificări - de la înlocuirea echipamentelor până la introducerea de schimburi suplimentare. La sfârșitul anului 2016, Fondul de Dezvoltare a Inițiativelor pe Internet a decis să investească 125 de milioane de ruble în companie.

Recrutare si management de personal

Agregatorul de recrutori rus Stafory termină de formare a unei rețele neuronale recurente care nu poate doar să ofere răspunsuri monosilabice la întrebările candidaților, ci și să conducă o conversație completă cu aceștia despre postul vacant de care sunt interesați. Și echipa portalului SuperJob testează un serviciu care prezice care dintre sutele de CV-uri de același tip va fi solicitat de un anumit angajator.

Transport

Dezvoltatorul rus de sisteme inteligente Tehnologiile cognitive utilizează rețele neuronale pentru recunoaștere Vehicul, pietoni, indicatoare rutiere, semafoare si alte obiecte care cad in cadru. De asemenea, compania colectează date pentru antrenarea unei rețele neuronale pentru un vehicul fără pilot. Vorbim despre zeci de mii de episoade care descriu reacția șoferilor la anumite situații critice de pe șosele. Ca urmare, sistemul trebuie să formuleze scenarii optime pentru comportamentul autorobotului. Aceleași tehnologii sunt folosite pentru a crea un transport agricol inteligent.

În plus, rețelele neuronale pot fi utilizate în domeniul transportului în alte moduri. În vara anului 2016, Yandex a adăugat la buletinul său Avto.ru funcția de a detecta automat un model de mașină din fotografia sa. La acea vreme, sistemul cunoștea 100 de mărci.

Psihologie și securitate

Startup-ul rus NTechLab, care a ocolit Google competiție internațională algoritmi de recunoaștere a feței MegaFace Benchmark, a folosit tehnologii de învățare automată în aplicația FindFace. Vă permite să găsiți o persoană în rețelele sociale prin fotografie. Adesea, utilizatorii apelează la serviciu pentru a detecta falsurile, dar poate fi util și pentru oamenii legii. Cu ajutorul acestuia, identitatea mai multor criminali a fost deja stabilită, inclusiv invadatorul Citibank din Moscova. Versiunea business a FindFace.Pro este oferită companiilor interesate de identificarea clienților. Acum sistemul este antrenat pentru a determina sexul, vârsta și emoțiile celorlalți, ceea ce poate fi util nu numai atunci când comunicați cu clienții, ci și atunci când gestionați personalul.

În mod similar, rețelele neuronale sunt folosite de o altă companie rusă - VisionLabs. Utilizează tehnologia de recunoaștere facială pentru a oferi securitate în bănci și pentru a genera oferte speciale pentru cei mai fideli clienți ai diverselor puncte de vânzare cu amănuntul.

Startup-ul Emotian lucrează într-o direcție similară. El finalizează sistemul de determinare a stării emoționale a orașelor. Până acum, rețeaua neuronală calculează cele mai fericite zone pe baza publicațiilor de pe rețelele de socializare, dar pe viitor compania urmează să țină cont de datele biometrice de la camere.

Media și creativitate

Unul dintre principalii jucători de pe piața rusă a rețelelor neuronale este Yandex. Compania folosește învățarea automată nu numai în serviciile de căutare, ci și în alte produse. În 2015, ea a lansat un sistem de recomandare " Zen”, care formează un flux de știri, articole, fotografii și videoclipuri bazate pe interesele unui anumit utilizator. Cu cât apelează mai des la materialele selectate de algoritm, cu atât rețeaua neuronală determină mai precis ce altceva i-ar plăcea.

În plus, Yandex experimentează și creativitatea. Angajații companiei au reușit deja să aplice abordarea rețelei neuronale la poezie și apoi