Gilūs mokymosi išteklių išpardavimas: nemokamos knygos, kursai ir praktiniai įrankiai

Paskutiniais metais gilus mokymasis (Deep Learning), kaip svarbi dirbtinio intelekto srities šaka, pasiekė įspūdingų laimėjimų. Nesvarbu, ar tai būtų vaizdų atpažinimas, natūralios kalbos apdorojimas ar sustiprintas mokymasis, gilus mokymasis demonstruoja galingas galimybes įvairiose srityse. Tačiau kūrėjams, norintiems pradėti ar giliau studijuoti gilų mokymąsi, susidūrus su didžiuliu kiekiu medžiagos ir sudėtingomis sąvokomis, dažnai jaučiasi pasimetę.

Šis straipsnis, remiantis populiariomis diskusijomis X/Twitter, atrinko nemokamų gilaus mokymosi savarankiško mokymosi išteklių seriją, įskaitant knygas, kursus ir praktinius įrankius, siekiant suteikti skaitytojams aiškų ir praktišką mokymosi kelią, padedantį visiems greitai įsisavinti pagrindinius gilaus mokymosi įgūdžius.

I. Nemokami knygų ištekliai: teorinis pagrindas ir praktiniai patarimai

Teorinis pagrindas yra gilaus mokymosi kertinis akmuo. Tvirtas matematikos ir mašininio mokymosi pagrindų įsisavinimas yra labai svarbus norint suprasti ir taikyti gilų mokymąsi. Toliau pateikiamos kelios nemokamos knygos, apimančios visus aspektus nuo pagrindinės teorijos iki praktinio taikymo:

1. Mašininio mokymosi supratimas (Understanding Machine Learning)

• Nuoroda: https://cs.huji.ac.il/~shais/UnderstandingMachineLearning/understanding-machine-learning-theory-algorithms.pdf
• Ypatybės: Ši knyga giliai nagrinėja mašininio mokymosi teorinius pagrindus, apimdama tokias svarbias sąvokas kaip apibendrinimo teorija, PAC mokymasis, VC dimensija ir kt. Ji tinka ne tik kaip vadovėlis, bet ir skaitytojams, besidomintiems mašininio mokymosi teorija.
• Rekomendacijos priežastis: Pabrėžiama teorija ir algoritmai, padedantys sukurti tvirtą mašininio mokymosi žinių sistemą.

2. Mašininio mokymosi matematika (Mathematics for Machine Learning)

• Nuoroda: https://mml-book.github.io/book/mml-book.pdf
• Ypatybės: Ši knyga sistemingai pristato mašininiam mokymuisi reikalingas matematikos žinias, įskaitant tiesinę algebrą, matematinę analizę, tikimybių teoriją ir kt. Ji pabrėžia matematinių sąvokų taikymą mašininiame mokymesi ir padeda skaitytojams suprasti per daugybę pavyzdžių.
• Rekomendacijos priežastis: Skaitytojams, turintiems silpnus matematikos pagrindus, tai yra reta įvadinė medžiaga, kuri gali veiksmingai kompensuoti matematikos žinių trūkumą.

3. Mašininio mokymosi algoritmų matematinė analizė (Mathematical Analysis of ML Algorithms)

• Nuoroda: https://tongzhang-ml.org/lt-book/lt-book.pdf
• Ypatybės: Giliai analizuoja įvairių mašininio mokymosi algoritmų matematinius principus, apimdama tokius svarbius dalykus kaip išgaubtas optimizavimas, stochastinis gradientinis nusileidimas ir kt. Ši knyga tinka skaitytojams, turintiems tam tikrą matematikos pagrindą ir norintiems giliau suprasti algoritmų principus.
• Rekomendacijos priežastis: Per matematinę analizę galima geriau suprasti algoritmų esmę, padedant pagrindus algoritmų optimizavimui ir inovacijoms.

4. Gilaus mokymosi įvadas (Understanding Deep Learning)

• Nuoroda: https://udlbook.github.io/udlbook/
• Ypatybės: Šią knygą parašė gilaus mokymosi srities ekspertai, joje sistemingai pristatomos pagrindinės gilaus mokymosi sąvokos, modeliai ir algoritmai. Ji apima įvairius įprastus gilaus mokymosi modelius, tokius kaip konvoliuciniai neuroniniai tinklai (CNN), rekurentiniai neuroniniai tinklai (RNN) ir Transformer ir kt.
• Rekomendacijos priežastis: Turinys išsamus, lengvai suprantamas, tinka kaip įvadinė gilaus mokymosi medžiaga.

5. Mašininio mokymosi pagrindai (Foundations of Machine Learning)

• Nuoroda: https://cs.nyu.edu/~mohri/mlbook/

• Ypatybės: Apima pagrindines mašininio mokymosi žinias, įskaitant prižiūrimą mokymąsi, neprižiūrimą mokymąsi, sustiprintą mokymąsi ir kt. Ši knyga daugiausia dėmesio skiria įvairių mašininio mokymosi algoritmų principams ir taikymui.

• Rekomendacijos priežastis: Turinys platus, tinka sukurti visą mašininio mokymosi žinių sistemą.6. Mašininio mokymosi algoritmai (Algorithms for ML)

• Nuoroda: https://algorithmsbook.com

• Ypatybės: Orientuotas į mašininio mokymosi algoritmų paaiškinimą, nuo pagrindinės tiesinės regresijos iki pažangių gilaus mokymosi algoritmų, pateikiami išsamūs pristatymai ir kodo pavyzdžiai.

• Rekomendacijos priežastis: Pabrėžia praktiką, tinka mokytis algoritmų per kodą.

7. Sustiprintas mokymasis (Reinforcement Learning)

• Nuoroda: https://andrew.cmu.edu/course/10-703/textbook/BartoSutton.pdf
• Ypatybės: Klasikinis sustiprinto mokymosi srities vadovėlis, sistemingai pristatantis pagrindines sustiprinto mokymosi sąvokas, algoritmus ir taikymus.
• Rekomendacijos priežastis: Turinys autoritetingas, būtina knyga norint mokytis sustiprinto mokymosi.

II. Stanfordo universiteto nemokami gilaus mokymosi kursai: nuo pradedančiųjų iki pažengusiųjų

Stanfordo universitetas yra gerai žinomas dirbtinio intelekto srityje, o jo siūlomi nemokami internetiniai kursai apima visus gilaus mokymosi aspektus. Štai keletas kursų, kuriuos verta rekomenduoti:

• CS221 - Dirbtinis intelektas (Artificial Intelligence): Apžvalginis dirbtinio intelekto kursas, kuris padeda pagrindus gilaus mokymosi studijoms.
• CS229 - Mašininis mokymasis (Machine Learning): Klasikinis mašininio mokymosi kursas, apimantis įvairių mašininio mokymosi algoritmų principus ir taikymus.
• CS230 - Gilus mokymasis (Deep Learning): Įvadinis gilaus mokymosi kursas, pristatantis pagrindines gilaus mokymosi sąvokas, modelius ir algoritmus.
• CS234 - Sustiprintas mokymasis (Reinforcement Learning): Sustiprinto mokymosi kursas, apimantis pagrindines sustiprinto mokymosi sąvokas, algoritmus ir taikymus.
• CS231N - Konvoliuciniai neuroniniai tinklai ir vaizdo atpažinimas (Convolutional Neural Networks for Visual Recognition): Orientuotas į konvoliucinius neuroninius tinklus ir jų taikymą kompiuterinės regos srityje.
• CS336 - Didelių kalbos modelių kūrimas nuo nulio (LLM from Scratch): Pristato didelių kalbos modelių kūrimo ir mokymo procesą.

Mokymosi patarimai:

1. Pasirinkite tinkamus kursus: Pasirinkite tinkamus kursus atsižvelgdami į savo pagrindą ir interesus.
2. Atsakingai atlikite užduotis: Kursų užduotys yra svarbi žinių įtvirtinimo dalis, todėl būtinai jas atlikite atsakingai.
3. Aktyviai dalyvaukite diskusijose: Aktyviai dalyvaukite kursų diskusijose, dalinkitės patirtimi ir įžvalgomis su kitais besimokančiaisiais.

III. Praktiniai įrankiai ir patarimai: mokymosi efektyvumo didinimas

Be teorinio mokymosi ir kursų, kai kurie praktiniai įrankiai ir patarimai taip pat gali padėti efektyviau mokytis gilaus mokymosi.

1. Naudokite „Google Colab“ arba „Kaggle Kernel“:

• „Google Colab“ ir „Kaggle Kernel“ siūlo nemokamus GPU išteklius, kad būtų lengviau paleisti gilaus mokymosi kodą.
• Jie taip pat palaiko redagavimą ir bendradarbiavimą internetu, kad būtų lengviau mokytis kartu su kitais.

Kodo pavyzdys (paprasto CNN mokymas naudojant „TensorFlow“ „Google Colab“):

import tensorflow as tf

# Apibrėžkite modelį
model = tf.keras.models.Sequential([
  tf.keras.layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
  tf.keras.layers.MaxPooling2D((2, 2)),
  tf.keras.layers.Flatten(),
  tf.keras.layers.Dense(10, activation='softmax')
])
```# Modelio kompiliavimas
model.compile(optimizer='adam',
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])

# MNIST duomenų rinkinio įkėlimas
(x_train, y_train), (x_test, y_test) = tf.keras.datasets.mnist.load_data()
x_train = x_train.reshape(-1, 28, 28, 1).astype('float32') / 255.0
x_test = x_test.reshape(-1, 28, 28, 1).astype('float32') / 255.0

# Modelio treniravimas
model.fit(x_train, y_train, epochs=2)

# Modelio įvertinimas
loss, accuracy = model.evaluate(x_test, y_test, verbose=0)
print('Loss: %.2f' % loss)
print('Accuracy: %.2f' % accuracy)

2. Naudokite vizualizavimo įrankius:

• Vizualizavimo įrankiai, tokie kaip TensorBoard ir Visdom, gali padėti geriau suprasti modelio struktūrą ir treniravimo procesą.
• Vizualizuodami nuostolių funkciją, aktyvacijos reikšmes ir kt., galite intuityviau suprasti modelio veikimą.

3. Dalyvaukite atvirojo kodo projektuose:

• Dalyvavimas atvirojo kodo projektuose yra veiksmingas būdas tobulinti giliojo mokymosi įgūdžius.
• Skaitydami ir modifikuodami atvirojo kodo kodą, galite išmokti puikios programavimo praktikos ir dizaino idėjų.

4. Nuolatinis mokymasis ir praktika:

• Gilusis mokymasis yra sparčiai besivystanti sritis, kurioje reikia nuolat mokytis naujų žinių ir technologijų.
• Taikydami įgytas žinias praktiniams problemoms spręsti per realius projektus, galite tikrai įvaldyti gilųjį mokymąsi.

5. Išmokite Transformer architektūrą NLP srityje:

• Išsamiai išstudijuokite Jay Alammar’s guide (konkretų turinį reikia ieškoti atitinkamame straipsnyje).
• Supraskite FFN (Feed Forward Network), LayerNorm (Layer Normalization) ir Residuals (liekamieji ryšiai) sąvokas.
• Pabandykite nuo nulio įgyvendinti visą Transformer Encoder-Decoder bloką.

6. Išmokite taikymą akcijų prekyboje (tik informaciniais tikslais, rizika tenka jums):

• Sužinokite, kaip naudoti gilųjį mokymąsi akcijų atrankai.
• Atminkite: tokios programos apima finansinę riziką, todėl jas reikia įvertinti ir vykdyti atsargiai.

7. Sekite pramonės tendencijas:

• Sekite tokių institucijų kaip DeepLearningAI pasidalinimus, kad sužinotumėte naujausius giliojo mokymosi srities pokyčius.

IV. Mokymosi iššūkių įveikimas

Mokantis giliojo mokymosi gali kilti tam tikrų iššūkių, tokių kaip:

• Sudėtingos sąvokos: Gilusis mokymasis apima daug sudėtingų matematinių ir algoritminių sąvokų.
• Išteklių trūkumas: Trūksta skaičiavimo ir duomenų išteklių.
• Vadovavimo trūkumas: Trūksta profesionalaus vadovavimo ir paramos.

Norėdami įveikti šiuos iššūkius, galite imtis šių priemonių:

• Suskaidykite mokymosi tikslus: Suskaidykite sudėtingus mokymosi tikslus į mažus, valdomus tikslus.
• Ieškokite nemokamų išteklių: Pasinaudokite šiame straipsnyje rekomenduojamomis nemokamomis knygomis, kursais ir įrankiais.
• Prisijunkite prie mokymosi bendruomenės: Prisijunkite prie giliojo mokymosi bendruomenės, kad pasidalintumėte patirtimi ir ieškotumėte pagalbos su kitais besimokančiaisiais.

Kaip DeepLearningAI pasakė X/Twitter: „Every AI expert once Googled simple questions. Every beginner felt lost. If you’re learning and trying, you belong in the AI community.“ Atminkite, kad kiekvienas AI ekspertas kažkada buvo naujokas ir jautėsi pasimetęs. Kol atkakliai mokotės ir praktikuojatės, tikrai galėsite įveikti sunkumus ir tapti kvalifikuotu giliojo mokymosi inžinieriumi.Apibendrinant, šiame straipsnyje pateikiama daug nemokamų savarankiško gilaus mokymosi išteklių, įskaitant knygas, kursus ir praktinius įrankius. Tikiuosi, kad šie ištekliai padės jums geriau pradėti ir nuodugniai išmokti gilųjį mokymąsi bei pasiekti sėkmės dirbtinio intelekto srityje. Atminkite, kad mokymasis yra nuolatinis procesas, reikalaujantis nuolatinių pastangų ir praktikos. Sėkmės mokantis!