Regularizers מאפשרים לך להחיל עונשים על פרמטרי שכבות או על פעילות שכבה במהלך האופטימיזציה. עונשים אלו מסוכמים לפונקציית ההפסד שהרשת מייעלת. עונשי הרגולציה מוחלים על בסיס שכבה.
מהו מסדיר פעילות?
רגולר הפעילות פועל כפונקציה של הפלט של הרשת, והוא משמש בעיקר להסדרת יחידות נסתרות, בעוד weight_regularizer, כפי שהשם אומר, עובד על המשקולות (למשל, לגרום להם להתפרק).
מתי עלי להשתמש במסדיר פעילות?
אם אתה רוצה שפונקציית הפלט תעבור דרך(או שתהיה ליירט קרוב יותר למקור), אתה יכול להשתמש ב-bias regularizer. אם אתה רוצה שהפלט יהיה קטן יותר (או קרוב יותר ל-0), אתה יכול להשתמש במסדרת הפעילות.
איך אני משתמש ב-Keras regularizer?
כדי להוסיף מסדר לשכבה, פשוט צריך לעבור בטכניקת הרגולציה המועדפת לארגומנט מילת המפתח 'kernel_regularizer' של השכבה. שיטות הטמעת ההסדרה של Keras יכולות לספק פרמטר המייצג את ערך היפרפרמטר ההסדרה.
מה זה גרעין והטיה?
Dense class
Dense מיישמת את הפעולה: output=activation(dot(input, kernel) + bias) כאשר הפעלה היא פונקציית ההפעלה של אלמנט המועברת כארגומנט ההפעלה, ליבה היא מטריצת משקלים שנוצרה על ידי השכבה, וbias הוא וקטור הטיה שנוצר על ידי השכבה (ישים רק אם use_bias הוא True).
