????? ??????? ???????? ?????????? ????????????? ????????? ???? ???????? ???????

??? ?????? ???????? ????????????? ????????? ???? ? ?? ????? ??????? ?? ???? ??? ???????.

? ??????? ??????? ?????? «?????????» ???????????? ? ????????? ?????. ??? ?????? ? ??????? ?????: ????????? ????? ???????, ??????????? ???????, ????? ??????, ??????????? ?????? ?????? ?????????? ? ???? ????????? ??????????. ?? ????? ?? ??? ????? ?? ????? ????? ?????? ??? ?????????? ?????? ?????? ??? ?????????? ???????? ? ???????????? ?????, ? ??? ??? ???????? ??? ??????????

??????? ??????? ???????? ?????? ??????????? ????-?????? ? ??????? ???????????? Nvidia A100 ??? Google TPU ?????? ? ????? ????? ?????? – ???????? ??!

????? ?? ???? ????? ????????? ? ??????? ????????????? ??????? ?????? ?? ???? ??????? – ?????? ? ???? ????? ?????????? ??????????? ????????? ????????? ????????!

??????? ???????: ?? ????????? ???????? ?? ???????????? ???????

??? ???????? ??-?????????? ???????? ?????? ?????????? ??????? ???????????? ????????:

?????? ???? ???????? ?? ????????? ????????. ????? ????? ?? ???????? ???? ???????? – ?????, ??? ????????????? ???? ??????? ?????? ??????? ?? ????.

?????? ??????? ?????????? ????????? ????? ? ?????? ????????. ??? ????????: ???? ??????????? ???, ??? ???????? ???????? ????????????? ????? ???????????? ??????. ??????? ?????????? ????????????? ????????? ?????? ?????? – ??? ?????? ?? ?????????? ? ?? ?????????? ????????? ????????????? ????. ??? ???????? ?????????, ?????????? ???????????? ????????????? ?? ?????????? ? ????????? ? ???????.

??? ???????????? ?????????: ????????? ? ??????

??? ??? ?????????? ???????????? ???????????? ????????? ????????: ??? ???? ????????? ???????? ?? ?????? ?????? ????? ????????, ???????????? ?? ? ???????? ?????? ?? ???????.

???????????, ? ??? ??????? ????: ????????, ???? ?? ??? ?? ??????????. ???????? ????????????? ?????? ????? ???? (???????? ?????????? ?????). ????????? ????? ?????? ?? ??????? ???? ????.

??????? ???????? ????????????? ?????????

• ????????? ???? – ???????????? ???????? ?????? (? ???????, ????? ??????????? ??? ??????? ????????).
• ??????? ???? – ????????? ??????????? ??????; ? ???? ????? ??????????? «?????» ??????????.
• ???????? ???? – ????????????? ???????? ????? (? ???????, ??????????? ????, ??? ?? ???? ????????? ???).

??????????? ?????? ??????????? ????????????? «????» ???????? ??? ? ???????? XX ????. ? ????????? ??????? ???? ????? ?????????? ????????????? ?????????? – ?????????? ????????? ?????????????? ???????. ??? ???????? ???? ?????????? ?????? ???????????? ??????, ????????, ????????? ??????????? ?? ????????.

??????: ????? ??????? ??????? ?????????????? ????? ? ????

??? ?? ????? ???????? ?????? ???????? ????????? ???????????: ??????????? ???????????? ???????? ? ??????? ??????. ??? ?????????? ?? ???????? ????, ?????????? ?????????? (Big Data) ? ?????? ????????? (GPU). ? 2012 ????, ?????? Google ??????? ????????? ????, ? ? ??????? ???????? ?????? ?????? ??? ?????????????? ??????? ???????????????? ????? ?? YouTube-????? – ????? ??? ??? ????????? ??????.

????? ??????? ? ???????????? – ????????, ? ?????????????? ????????? ?????? ?????? ? ??????? ??????????, ??? ??????? ?????????.

1. ?????????????? ??????? ???????? ???????????? ??????? ???????? – ? ???????, ???? ?????????.
2. ?????? ???? ???????? ??? ?????????????? ? ??????????? ????????? – ? ???????, ?????????? ??? ???.
3. ?????? ??????? ????? ???????????? ??? ?????? ? ??????: ???! ????? ???? ???-?? ?????? ? ????? ? ????? – ?????? ?????, ???!

? ??? ??? ??????? ??????????? ? ????????????? ?????????: ????????? ????? ????????? (????????, GPT ?? OpenAI ??? BERT ?? Google), ? ???? ???? ?????????? ??? ?????????????? ? ???????.

??? ??????? ?????????: ???? ????????

????? ????????? ?????? ???????? ?????????, ??????????? ???? ???? ?? ????????? ????? ??????????? ????? – ??? ????????????? «???????». ????? ???????? ?????? 10 ?????? ?????? ?????? ????????? ??????? ?????? ????????? ????? (???? ????????? ?????), ????????? ??? ???? ??????? ???????? (????????, ?????????? ?? ? ????????????? ??????) ? ?????????? ????????? ?????.

????? ?????

1. ????????? ????????
   
   ??? ???????? ????? ?????? ??? ???? ???????????? ????????? ?????????? ???????? (? ???????, ?????? ????? ? ????? ? ??????????? ?????????).
2. ???????????????? ???? (forward pass)
   
   ?????????? ???????????? ?? ????????; ??????? ?????? ???????.
3. ??????? ???????????
   
   ???????????? ??????????? ????????? ? ?????? ??????? (????????: ??????? ??????? «???», ? ?? ???? ??? ???).
4. ?????? ???????? ??????????? (backpropagation)
   
   ? ?????????????? ??????? ?????? ?????????????? ??????? ??????? ???? ? ???????????.
5. ????????? ????????
   
   ??????? ??????? ?????????????? ????? ???????, ???? ??????????? ????????? ??? ????????? ???????.

???? ???? ????????????? ????? ?????, ???????? ???????? ?????? ?????? ?? ??? ???, ???? ???? ?? ?????? ?????? ??????????? ?????? ??????.

?????? ?? ??????????

??? ??????? ?????????????? ? ???????? ???????????? («??????», ????????), ? ????? ??????????? ??????? ?? ???????? ??? ??????????????? ??????????? ????/????/???.

????? ??? ?? ????? ??????? ????????????? ????????? ????????? ????!

??????????? ??????????? ??????: ??? ??????????? ?????? ??????????? ???????

???????? ???? ??????? ?????????? – ??????????? ????????? ?? ???????. ? ?????? ????????? 10 ?????? ?????? ?????? ????? ??????????? ??? ???????????? ???????????? ??????????????? ????????.

?????????? ????????? ???? (CNN)

??????????? ??? ?????????????? ???????? ? ???????????????. ??????, ??????? ?????? ?????? ?????????? ??????????? ???????, ??? ???????????? ?????? ?????????? ????????: ???? ?????????, ???????? ??? ?????.

? ????? ?????? ??? ??????? ?????????? ??????? ?? ???? ????????????? ????????? ?????:

??????????? ???? (RNN)

????? ????? ?????????? ???????? ????? ????????? ??????? ?????, ???, ? ???????, ????????? ?????? ?????? ??????????? ????????? ??????. ?? ?????? ?????? ?????????? ???????????????? ??? ????? ??????????:

???????????????

????????? ??? ?????? ? ????????? ??????: ????????? ??????????? ??? ??????. ????????, ????? ????? ????????????? ????????? ????????? ?????? ???????????, ??? ?????????? ?????? ???? ? ?????? ????? ?? ??????.

??? ????? ???????? ? ????????? ???????????? ??????? ????? ?????? ????????? ????????? (attention): ?????? ??????? ?????? ?????, «???????? ????????» ?? ?????? ???????? ??? ????????? ??????????.

• CNN – ??? ???????????
• RNN – ??? ?????
• Transformer – ??? ??????? ?????????? ?????

? ????? ????????? ?? ???????????? ? AI-????????? ???????????

• ??????? ????? ?????? ??????????? ????? ?????????????? ???????? e-mail.
• ??????????? ?????????????? ????????? ????????? ????? ?????????
• ?????????? ?????????? ???????? ??????? ??????? ????????? AI
• ??????????? ?????? ?????????? ?????? ????? ?? ????? ?????????????
• ?????????? ????? ?????????? ????????????? ??????? ? ?????.
• ?????????? ??????? ??????????? ???????? ? ? ??????? ?? ??????

?? ???????? ??? ???????? ??????? ?????????? ????? ????? ??? ???????????? ??????????:

?????? ???????? ???????? ??? ????? ??????? ? ????????

????? ??? ??????? ?????? ?????? ?????? ????? ??? ??????????? ??? ?? ?????????? ??? ?????? ??????????? ??????? ? ?????????? Google ????.

• ??????????? ??????????? ????????? ? ????????? ????????? ????????
• ?????????? ?????????? ????? GPT ???????? ?????? ???? ?? ????????????????
• ????????? ??????? ?? ????? ???????? ?????????? ???????? ??????????? ? ?????? ????? ????????.

???????? ????? ?????????? Human-in-the-loop («??????? ? ?????»): ????????????? ????? ????????? ???????? ?? ?????????!

???????? ? ?????? ??????????? ?????.

1. ??????????? ?? ??????????
   
   ???? ??????????? ????????? ?????? ?? ?????-????? ??????? ??????? ?? ??????? 2010-? ?????, ??? ?? ????? ?????? ???????????? ???????? ???????????? ????? ?????.
2. ???????? ??????????????????
   
   ????? ?????? ????????, ?????? ??????? ??????? ???????????? ???????; ?? ???????????? ???????? ??????????? ???? ??? ??????????.
3. ???????????????? ? ????????????
   
   ????????? ??????????? ??????????? ???????? ??????? ??????; ???????? ????????? ???? «???????????????? ?????????», ????? ?? ???????????? ???, ??? ??????? ????? ????????? ??.
4. ???????? ?????????? ?? ??????? ???????????
   
   ?????? ?????????? ????????????? ???, ??? ?????????? ??????? ?????????? ??????? ????????; ?? ??? ????? ???????? ??? ??????? ? ???-?? ?????????? ????? ??? ?????????.
5. ???????? ??????????????
   
   ???????????? ?????????????? ?????????? ???????? ???????? ?????????????????? ?????? ???????????? ??? ???? ?????????? ?????????????????? ?????????????.

????? ????????????? ????????????? ? ????????? AI ? ???? ?????

????? ?? ????????? ????? ??????.

• Data Scientist – ??????????? ?????? ? ?????? ????? ?????????????? ??????????.
• ML Engineer – ??????????? ??-??????? ? ???????? ??????
• AI Researcher – ???????????? ????????????????? ?????????????? ????????? ??????????
• ????? ??????????? AI-??????????? – ????????????? ????????? ????????? ??????? c ??????????? ??
• AI Moral Expert – ???????? ?? ??????? ?????????? ? ?????? ???? ?????????????.

??? ?????????? ??????? ????? ?? ???????????? ?????? ????:

????? ??????????? ?????????? ?????????????? ???????? ?? ?????????????? ???????????

• ????????? ?????????? (? ??????????? ????????? ???????)
• ?????? ?????? ??? (Python + ?????? PyTorch/TensorFlow)
• ?????? ??????? ???????? ????????
• ?????????? ???? ??? ????????? ????????? ????????????????? ?????
• ?????????? ??????????? ? ?????? ??????????? ? ???????

??????? ????????????? AI ? ?????????? ?????????

??????????? ???????, ??????? ????????? ????????? ?????? ? ????????? ?? ????????????. ??????? ??????? ????????? ??????? («??? ?????!» – ???? ??? ????????). ??? ?? ????? ?????????? ?? ????????? ????????????? ???????? ??????? ????? ? ?????????? ? ????, ????? ????????? ??? ????????.

1. ? ???????? ??????? ????????? ?????? ??????????? ???????? ???????? ??????? ?? ???????????? ??? ?????? ????????;
2. ?? ????????? ??????????? ????????? ????????????? ????????? ??? ??????????? ?????????????????? ?????????;
3. ?????? ????????? ????????? ????????????? ??? ?????????? ??????????? ??????;
4. ? ???????????? ????? ??????????? ?????????? ???????????? ?????????;
5. ? ??????????? ?????????? ????????????? ??????? ??? ??????????????? ???????? ??????????;

?????? ?????????? ???????????? ??? ?????????? ?? ????? ??????????? ??????? ????? ? ???? ????????!

????? ??????????? ?? ?????????? ??????????? ???????+??

• ????? ?????????? ?????? ?????????????? ?????? ?? ????? ??????????? ???????????? ??????????;
• ????????? ????????? ?????? c ??????? ???????????????? ?????? ???????????? ?????????????? ?????????;
• ??????? ??????? ???????????? ????? ????????? ? ???????????? ???????;

?? ?????????? ???? ?????????? ????? ? ????????? ?? 0 ?? 1 – ??????????? ????, ??? ?? ??????????? ????????????? ?????. ??????, ????????? ?????? ?????? ????? ?????????? ? ??????? ??????????? ? ??????????? ???????? ??????????.

??????????? ????? ?????? ??????? ? ????????:

• ???????? ??????? ??????? ???????? ????????
• ?????????? ????????? ????????????
• ???? ??????????????? ?? ?????????? ? ?? ???????????? ?????????
• ?????????? ???????? ????? ????????? ???????

????? ??????? ???????? ??????????? ?????? ????????? ????????? ???? ? ?????????

1. ?????????? ???????? + ???????? Notebook;
2. ??????? ??????????????? ??????? ?????????? TensorFlow ??? ?? PyTorch;
3. ?????????? ????????????? ????????? ???? ???????????????? ?????????? ???????? ??????? MNIST;
4. ????????? ???????????? ?? ?????? ??????????? (???????? ?????? ???????? ????????);
5. ???????? ??????? ? ????????!

?????? ????????? ??? ???????:

• ???? «????????? ????”» ?? ??????? ?? Stepik
• ??????? Deep Learning ????? ??? ????????? (?? ???????)
• ????? ?????????? Science UA ? Telegram
• ???????? ?????? Kaggle ??? ???????? ?????????????

????? ????? ?? ???????? ?????????? ??????????

?????????? ?????????? 10 ?????? ?????? ?????? ??????????; ???????? ?????; ????? ?????????; ????????? ??????? ??????????????… ???? ??????????? ????????? ?? ????!