Trong huấn luyện mô hình trí tuệ nhân tạo, việc điều chỉnh trọng số (weights) diễn ra phi tuyến tính. Mỗi lần cập nhật mô hình theo hướng giảm sai số thường tạo nên đồ thị học tập zíc zắc. Điều này phản ánh bản chất của tiến bộ: cần lùi một bước để nhảy