Regularizatoriai leidžia taikyti nuobaudas sluoksnio parametrams arba sluoksnio veiklai optimizavimo metu. Šios baudos sumuojamos į nuostolių funkciją, kurią tinklas optimizuoja. Nuobaudos dėl sureguliavimo taikomos kiekvienam sluoksniui.
Kas yra veiklos reguliatorius?
Aktyvumo reguliatorius veikia kaip tinklo išvesties funkcija ir dažniausiai naudojamas paslėptiems vienetams sureguliuoti, o weight_regularizer, kaip sako pavadinimas, veikia su svoriais (pvz., priverčiant juos suirti).
Kada turėčiau naudoti veiklos reguliatorių?
Jei norite, kad išvesties funkcija pereitų per (arba turėtų pertrauką arčiau) pradžios, galite naudoti šališkumo reguliatorių. Jei norite, kad išvestis būtų mažesnė (arba arčiau 0), galite naudoti veiklos reguliatorių.
Kaip naudoti Keras reguliatorių?
Norėdami prie sluoksnio pridėti reguliatorių, tiesiog turite perkelti pageidaujamą reguliavimo techniką sluoksnio raktinio žodžio argumentui 'kernel_regularizer'. „Keras“įteisinimo įgyvendinimo metodai gali pateikti parametrą, nurodantį reguliavimo hiperparametro reikšmę.
Kas yra branduolys ir šališkumas?
Tanki klasė
Dense įgyvendina operaciją: išvestis=aktyvinimas(taškas(įvestis, branduolys) + poslinkis), kur aktyvinimas yra elementų suaktyvinimo funkcija, perduodama kaip aktyvinimo argumentas, branduolys yra svorių matrica, sukurta sluoksniu irposlinkis yra poslinkio vektorius, sukurtas sluoksnio (taikoma tik tuo atveju, jei use_baas yra True).
