Böyük məlumat aliminin fikrincə, Stokastik Qradient Enişdən istifadənin fərqli üstünlüklərindən biri hesablamaları qradiyentin enişindən və toplu qradient enişindən daha sürətli etməsidir … Həmçinin, kütləvi verilənlər bazası, stoxastik qradiyent eniş daha tez birləşə bilər, çünki o, yeniləmələri daha tez-tez yerinə yetirir.
Stokastik Qradient Eniş nə üçün istifadə olunur?
Stokastik gradient enişi proqnozlaşdırılan və faktiki nəticələr arasında ən yaxşı uyğunluğa uyğun gələn model parametrlərini tapmaq üçün maşın öyrənmə proqramlarında tez-tez istifadə edilən optimallaşdırma alqoritmidir Bu, qeyri-dəqiq, lakin güclü texnikadır. Stokastik gradient eniş maşın öyrənmə proqramlarında geniş istifadə olunur.
Qıvrımlı neyron şəbəkəsini öyrətmək üçün nəyə görə standart qradient enişindən çox Stokastik Qradient Enişindən istifadə etməliyik?
Stokastik qradiyent enmə hər müşahidə üçün parametrləri yeniləyir, bu da daha çox yeniləməyə səbəb olur. Beləliklə, daha sürətli qərar qəbul etməyə kömək edən daha sürətli bir yanaşmadır. Bu animasiyada müxtəlif istiqamətlərdə daha sürətli yeniləmələr müşahidə edilə bilər.
Niyə biz gradient enişinə üstünlük veririk?
Qradient enişin xətti reqressiya üçün istifadə edilməsinin əsas səbəbi hesablama mürəkkəbliyidir: bəzi hallarda qradiyentin enişindən istifadə edərək həlli tapmaq hesablama baxımından daha ucuzdur (daha sürətli). Burada siz X′X matrisini hesablamalı, sonra onu çevirməlisiniz (aşağıdakı qeydə baxın). Bu, bahalı hesablamadır.
SGD niyə istifadə olunur?
Stokastik qradiyentin enməsi (çox vaxt qısaldılmış SGD) uyğun hamarlıq xassələri ilə obyektiv funksiyanı optimallaşdırmaq üçün iterativ üsuldur (məsələn, diferensiallaşan və ya subdiferensiallaşan).
