Deep Learning UB 2021 — summer school : Day#8



Original Source Here

Сурсан загвар маань цөөн epoch явсан тул одоогоор 40% accuracy-тэй байна. Эцэстээ загвар маань юу сураад байгаа вэ гэхээр Convolution Filter болгон нь 1 1 зүйлийг сураад байгаа. (Filter #1→Босоо ирмэг, Filter #2→Хөндлөн ирмэг)

Ингээд л сайн сургаад байвал бараг болчихно доо :D. Дараагийн даалгавар нь CIFAR-10 dataset дээр ажиллах загвар үүсгэх байсан.

Гол зорилго нь accuracy 80% давуулах. Миний хувьд 2+10+20+20 epoch ажиллуулж 79% болгосон шүү.

Нэмэлтээр 1 tip өгөхөд 5х5 filter ашигласнаас 3×3 filter-г 2 удаа хийх нь илүү бага зардлаар, адил үр дүнд хүрэх боломж олгодог.

2 давхарга гүн боловч цөөн параметртэй

Бас нэг сонирхолтой зүйл нь normalization юм. Хоорондоо хамааралтай ч тооны хувьд хэт зөрүүтэй байхад 0-1 хооронд болгож “хэвийн” болгодог. Яг үүнтэй төстэйгээр олон давхаргатай үед гаралтыг “хэвийн” болгоод дараагийн давхаргын оролтод ашигладаг. (Batch Normalization) 1 сул тал нь илүү 1 тооцоолол хийдэг.

За тэгээд RNN хэсгээ нөгөөдөр үзнэ ээ. Маргааш тэмцээн дуусах болохоор өнөөдөртөө CNN туршаад accuracy-ээ ихэсгэх хэрэгтэй байна.

AI/ML

Trending AI/ML Article Identified & Digested via Granola by Ramsey Elbasheer; a Machine-Driven RSS Bot

%d bloggers like this: