Найчастіше використовуються наступні функції втрат:
- проста (англ. simple)
- квадратична
- прямокутна
- експонентна (функція втрат з насиченням)
Що таке функція втрат? За своєю суттю функція втрат неймовірно проста: це метод оцінки того, наскільки добре ваш алгоритм моделює ваш набір даних . Якщо ваші прогнози повністю неправильні, ваша функція втрат виведе більше. Якщо вони досить гарні, вона виведе менше.
Найчастіше використовуваною є квадратична функція втрат: λ(y)=C(y−y′)2, де C – константа, y – справжнє значення виходу моделі (яке має бути отримано в ідеальному випадку), y – фактичний вихід моделі.
Типи функцій втрат Cross-Entropy Loss: використовується для класифікації, вимірює різницю між двома розподілами ймовірностей – істинним та передбаченим.
7 видів втрат
- Перевиробництво;
- Очікування;
- Транспортування;
- Надлишкова обробка;
- Надлишок запасів;
- Шлюб;
- Зайві рухи.
Функція втрат вимірює, наскільки хороша модель нейронної мережі під час виконання певного завдання , яка у більшості випадків є регресією чи класифікацією. Ми повинні мінімізувати значення функції втрат на етапі зворотного розповсюдження, щоб зробити нейронну мережу кращою.
Щоб вибрати функцію втрат у ML, зрозумійте тип проблеми та модель . Використовуйте середньоквадратичну помилку або середню абсолютну помилку для регресії, бінарну крос-ентропію або втрату шарніру для бінарної класифікації та багатокласову крос-ентропію або дивергенцію Кульбака-Лейблера для багатокласової класифікації.
7 видів втрат
- Перевиробництво;
- Очікування;
- Транспортування;
- Надлишкова обробка;
- Надлишок запасів;
- Шлюб;
- Зайві рухи.