Эта заметка написана несколько в другом стиле, чем многие предыдущие… Поскольку автор постоянно совершенствует курс по машинному обучению, здесь берётся самая простая и популярная тема классических курсов по ML, и показывается, о чём в ней можно / стоит ещё рассказать (хотя об этом часто забывают), какие здесь есть сложные и интересные вопросы (если Вы хотите проверить свои или чужие знания по линейной регрессии).
ridge
язык R: глюки пакета ridge
Если нужна гребневая регрессия в R, то можно использовать библиотеку с подходящим названием ridge. Основная фишка реализованного в ней метода – автоматический выбор параметра регуляризации, см. статью Cule, E. and De Iorio, M. (2012) A semi-automatic method to guide the choice of ridge parameter in ridge regression. Это действительно работает, причём на моих данных очень неплохо. Но в реализации допущены просто «потрясные» баги…
Анализ малых данных 