Google мақтады: Ресейлік студент қатерлі ісік ауруын анықтайтын нейрондық желі құрды

Иван 21 жаста, Промобот роботтары үшін машинамен жұмыс жасаумен айналысады. Ваня командасымен бірге қатерлі ісіктің пайда болу ықтималдығын анықтайтын нейрондық желі құрды. Джобс Google-дегі конкурста 1% үздік деп танылды TJournal.

Сурет: Депозитфоталар

Бұл қалай басталды

Мен машина жасауды 3 жыл бұрын бастадым, бірақ терең нейрондық желілерді байыпты зерттей бастадым - бір жыл бұрын. Мен қазір Promobot сервис роботтары үшін табиғи тілде жұмыс жасаудамын. «Табиғи тіл» дегеніміз - робот, мысалы, банкте тұрған, қажетті қызметті өңдеп, ұсынуы керек адамның сөйлеуі.

Алты ай бұрын мен терең нейрондық желілер мені қызықтырады деп шештім және қол жетімді барлық нәрсені зерттей бастадым.

Небәрі екі айдың ішінде мен машина жасау бойынша төрт негізгі курсты бітірдім. Барлық курстар ақысыз, тек біреуіне мен 45 доллар төледім (іс жүзінде бұл курстың бір айлық бағасы, бірақ мен осы айдың ішінде бағдарламаны толықтай оқып шықтым).

• Эндрю Ен мамандануы 5 курстан тереңдетіп оқытуда (ақылы)
• курс Стэнфордтан компьютерлік көру бойынша (тегін)
• курс Стэнфордтың табиғи тілді өңдеуінен (ақысыз)
• Жылдам АИ (тегін)

Әрине, бұл дұрыс емес қарқын. Жақсы түрде, ақпараттың мөлшері әлдеқайда ұзаққа созылады, бірақ мен күніне 12-14 сағат кофе, көк шай және тапқанның бәрін ішетінмін.

Кез-келген білімнің нәтижесі, тәжірибесі, шешімі болуы керек. Мен Google платформасында конкурсқа қатысуды ұйғардым Каггл.

Қандай бәсекелестік

Kaggle - бұл машиналарды оқыту бойынша халықаралық жарыстарға арналған алаң. Әр сайысқа мыңдаған зерттеушілер қатысады - АҚШ, Германия, Қытай, Корея және әлемнің әр түкпірінен келген 1157 команда бізбен жарысқа түсті.

Платформа деректерді ұсынады. Біздің жағдайда, бұл лимфа түйіндерінің суреттері: 220 мың кадр жаттығу үшін және 57 мың - үлгіні сынау. Бұл зерттеуге жіберілген нақты пациенттердің суреттері (суреттер анонимді - пациенттің жеке мәліметтері жария етілмеген). Бұл деректер жиынтығы деп аталады мәліметтер базасы, және олар әр түрлі: олар суреттерден, бейнелерден, мәтіндерден немесе адамдардың сөз сөйлеу жазбаларынан тұруы мүмкін, мысалы мен Промоботтағы сияқты. (Көлемі де әртүрлі болуы мүмкін: мен мың деректермен және 10 миллионмен жұмыс жасадым).

Тапсырма қарапайым: суретте науқастың қатерлі ісік ауруы бар-жоқтығын анықтау.

Мұны қалай жасадық?

Нейрондық желіні пайдалану.

Бұл қалай жұмыс істейді

Нейрондық желіге бір нәрсені үйрету үшін сізге үлгіні табу керек.

Мысалы, адамдардың сөйлеуімен жұмыс жасау кезінде нейрондық желі адамдардың ескертулері мен қызмет арасында байланыс орнатуы керек - айталық, MFC терезесі. Елестетіп көріңізші: бір адам роботқа келіп: «Маған шығару керек шетелдік». «Шетелдік төлқұжат» емес, «шетелдік». Мемлекеттік қызметтер жүйесінде «шетел» жоқ, бірақ нейрондық желі клиенттің қай терезеге жіберілетінін түсінуі керек.

Суреттер жағдайында: онкологиялық ауруға шалдыққан суреттердің ондай емес суреттерден айырмашылығы неде?

Ол үшін суретті деректерге түрлендіру керек. Көңілді ойын басталады.

1. Кез-келген сурет пиксельдерден тұрады. Пиксельдер үш арнаға бөлінеді: R (қызыл), G (жасыл) және В (көк)

Егер сіз өз өміріңізде кем дегенде бір рет Photoshop немесе осыған ұқсас бағдарламаны ашқан болсаңыз, мұны білуіңіз керек.

Әр арнаның мағынасы бар. Бұл сан - әр нақты пиксельдегі қызыл / жасыл / көк мөлшері.

Бізде ақ-қара сурет бар деп елестетіп көріңіз - бұл жағдайда әр пиксель бір санмен кодталады.

2. Суреттің кішкене аймағын алыңыз

Мысалы, 5-тен 5 пиксельге дейін. Бәрінің мағынасы бар, есіңізде ме?

«Қалыпты» нейрондық желі барлық пиксельдердің мәндерін келесі қабаттағы нейрондардың барлық мәндеріне көбейтеді. Бұл процесс барлық қабаттар үшін қайталанады. Күрделі дыбыстар. Сонымен қатар, ол ұзақ, көлемді және жеткілікті дәл емес.

Біз қолданамыз конвульсиялық нейрондық желілероның басты идеясы жинақтау. Төменгі жолда әр кескіннің жеке-жеке бірнеше санға көбейтілгендігі келтірілген (жинақтау матрицасы) Нәтиже жинақталады және соңғы суретте - сол жерде, сол фрагментте жазылады.

3. Кескінге матрица саламыз. Мысалы, 2-ден 2 пиксельге дейін

Осы қораптағы әрбір мән бірнеше санға көбейтіледі (мысалы, 3-ке), содан кейін ол қосылады. Содан кейін біз оны ауыстырамыз - және біз басқа құндылықтарды қарастырамыз. Содан кейін біз қайтадан ауысамыз - және барлығын өңдегенше.

Бұл операция әр арна үшін орындалады - қызыл, жасыл және көк (әр пиксельде үш мән бар).

4. Кішкентай текше шығады

Бұл текше бірдей сурет, бірақ көп шоғырланған. Сурет үлкен және түсініксіз болды, біз оны кішірейтіп, дәлірек жасадық.

Енді мұндай кескін үшін шамалар мен есептеулердің санын елестетіп көріңіз:

Енді ол келесідей көрінеді деп елестетіңіз:

Енді 220 мың осындай сурет бар деп ойлаңыз.

5. Соңында, нейрондық желі бір мағынаны береді: қатерлі ісік бар ма немесе жоқ па. Нейрондық желі басқаларға қарағанда дәлірек болған адам жеңеді.

Мен топ болып жұмыс істедім: екеуі Германиядан, Англиядан бір үнді және мен Ваня, Ресейден. Біз дәл байқау форумынан табылдық. Мен команданың ең жасы болдым: мен 21 жастамын, 25-те үндімін (кванттық информатика бойынша доктор дәрежесі бар), екі неміс үшін де 35 жастағылар үшін.

нәтиже

Жарысқа 1157 команда қатысты. Біз бірінші 1% -дамыз

Біз басқалардан нені жақсы көретінімізді айту қиын. Командалар өз шешімдерін өз еріктерімен жариялайды және оны тек топтар ғана орындайды (егер сізде дұрыс емес шешім болса, онда оны жариялаудың қажеті жоқ - бұл логика).

Сәттілік үлкен рөл атқарады (иә, нейрондық желілерді дамытудағы сәттілік). Нейрондық желіні оқыту - бұл детерминирленген емес процесс. Яғни, оны іске қосқан сайын жаңа желі пайда болады. Сізге сәттілік немесе сәттілік болмауы мүмкін - желі сәл жақсы немесе нашар жұмыс істейді - бұл болады.

Мен сол кезде бірге шешуге болатын ең жақсы шешімді жинағанымызды білемін. Біз өзіміз білетін және қазіргі кезде машиналық оқытудың ең соңғы фишкаларының барлығын қолдандық.

PS Содан кейін біз конкурста қолданған идеяларымызды жинадық, бәрін бір мақалада жинап, машинаны көру бойынша халықаралық конференцияға жібердік CVPR - әлемдегі ең үздіктердің бірі.

Жұмысты сарапшылар сынап көрді, біз оны (дәлірек айтқанда, команданың бір мүшесі) Калифорнияда ұсындық. Жұмыс жақсармады - Google командасы жеңді.