Описание тега lasso-regression

Лассо-регрессия - это форма регрессионного анализа, используемая для выбора переменных и регуляризации. Используйте этот тег только для вопросов программирования, связанных с регрессией Лассо. Вместо этого вы можете задавать статистические вопросы о перекрестной проверке
1 ответ

Как выполнить логистическое лассо в питоне?

Пакет scikit-learn предоставляет функции Lasso() а также LassoCV() но нет возможности уместить логистическую функцию вместо линейной... Как выполнить логистическое лассо в python?
1 ответ

Python LASSO максимальное количество ненулевых коэффициентов

У меня есть довольно большой набор данных, который включает в себя более 100 коэффициентов и тысячи записей. Поэтому я хотел бы использовать подход Лассо для обучения модели. В настоящее время я изучаю документацию sci-kit для: Лассо LassoCV Хотя ре…
1 ответ

Метрика Скоринга для учёных LassoCV

Я использую функцию LassoCV от scikit-learn. Во время перекрестной проверки какая метрика оценки используется по умолчанию? Я хотел бы, чтобы перекрестная проверка основывалась на "среднеквадратичной потере ошибок регрессии". Можно ли использовать э…
0 ответов

Как я должен получить коэффициенты модели Лассо?

Вот мой код: library(MASS) library(caret) df <- Boston set.seed(3721) cv.10.folds <- createFolds(df$medv, k = 10) lasso_grid <- expand.grid(fraction=c(1,0.1,0.01,0.001)) lasso <- train(medv ~ ., data = df, preProcess = c("center", "scale…
23 янв '17 в 00:47
3 ответа

Как вычислить значение R Squared для регрессии Лассо, используя glmnet в R

Я перебрал 8 вопросов stackru, говоря об этом вопросе. Но не было дано правильного практического ответа. Я выполняю регрессию лассо в R, используя пакет glmnet: fit.lasso <- glmnet(x,y) plot(fit.lasso,xvar="lambda",label=TRUE) Затем с помощью пер…
2 ответа

Лассо или Ридж для коррелированных переменных

Я пытаюсь понять цитату: "При наличии коррелированных переменных регрессия гребня может быть предпочтительным выбором". Допустим, у нас есть переменные a1,a2,b1,c2 и 2 a"s коррелированы. Если мы используем Lasso, то это может устранить один из "s. И…
0 ответов

Существует ли функция R, которая выполняет регрессию LASSO для нескольких вмененных наборов данных и объединяет результаты вместе?

У меня есть набор данных с 283 наблюдениями 60 переменных. Моя переменная результата дихотомическая (диагноз) и может быть одной из двух болезней. Я сравниваю два типа заболеваний, которые часто сильно перекрываются, и пытаюсь найти особенности, кот…
20 янв '19 в 23:52
1 ответ

Лямбда.1се не в одной стандартной ошибке ошибки

В документации функции cv.glmnet() дано, что: лямбда.1се: наибольшее значение лямбды, так что ошибка находится в пределах 1 стандартной ошибки минимума. Который означает, что lambda.1se дает lambda, что дает ошибку (cvm), что является одной стандарт…
26 авг '17 в 12:14
3 ответа

Ошибка glmnet (nulldev == 0) stop("y - постоянная; gaussian glmnet завершается ошибкой на этапе стандартизации")

Я запускаю следующий (усеченный) код, используя glmnet в R # do a lot of things to create the design matrix called x.design > glmnet(x.design, y, thresh=1e-11) где x.design - матрица проектирования n x p, где n > p, а y - вектор ответов n x 1, по…
3 ответа

Извлечение ненулевых коэффициентов в glmnet в R

Я делаю лассо логистическую регрессию. Я использовал cv.glmnet, чтобы получить ненулевые коэффициенты. И это похоже на работу, т. Е. Я получаю некоторые ненулевые коэффициенты, а остальные идут в ноль. Тем не менее, когда я использую функцию coef дл…
2 ответа

Может ли ввод для "Лассо" в Python содержать категориальные переменные?

Я хочу выполнить множественную линейную регрессию в python с лассо. Я не уверен, может ли входная матрица наблюдения X содержать категориальные переменные. Я прочитал инструкцию отсюда: лассо на питоне Но он простой и не указывает разрешенные типы. …
16 ноя '19 в 05:03
2 ответа

Как минимизировать функцию потери лассо с помощью scipy.minimize?

Основная проблема: почему коэффициенты регрессии Лассо не уменьшаются до нуля с минимизацией, выполняемой scipy.minimize? Я пытаюсь создать модель лассо, используя scipy.minimize. Однако он работает только тогда, когда альфа равна нулю (то есть толь…
1 ответ

получение отрицательного r в квадрате с регрессией лассо, питон

Я сделал регрессию лассо, но получил отрицательный R в квадрате. Вот моя кодировка: X = df.drop('var', axis=1) y = df['var'] X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=10) reg = Lasso(alpha=0.5) reg.fit(X_…
18 авг '20 в 16:49
1 ответ

Регрессия Ridge и Lasso - ValueError: входные данные содержат NaN, бесконечность или значение, слишком большое для dtype('float64')

Нужна помощь по сообщению об ошибке params = {'alpha': [0.0001, 0.001, 0.01, 0.05, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0, 7.0, 8.0, 9.0, 10.0, 20, 50, 100, 500, 1000 ]} ridge = Ridge() # cross validation folds = 5…
1 ответ

Поддерживает ли пакет glmnet многомерную сгруппированную регрессию лассо?

Я пытаюсь выполнить многомерную регрессию лассо для набора данных с 300 независимыми переменными и 11 переменными ответа, используя glmnetбиблиотека. Я хотел бы сгруппировать некоторые входные переменные, а затем применить многомерную сгруппированну…
02 июл '20 в 19:22
0 ответов

СКЛИРН ЛАССО - Количество коэффициентов увеличивается с увеличением лямбда лассо

Привет и заранее спасибо. В процессе выбора переменных, разработанном в sklearn под управлением Lasso, мы обнаружили, что: Количество коэффициентов не уменьшается строго по мере увеличения лямбда-фактора. Переменные, которые исчезают при определенно…
15 ноя '19 в 13:35
2 ответа

Построение слитого штрафа лассо с пакетом cvxpy в Python

Fused Lasso (Tibshirani et al, 2005) поощряет разреженность коэффициентов, а также разреженность их различий. Это формула для функции потерь и регуляризации: первый член - это потери L2 (mse), второй - это штраф L1 на коэффициенты (регуляризация Лас…
17 ноя '19 в 22:39
2 ответа

Подгонка модели регрессии Лассо к данным

Я хотел создать модель, которая описывала бы поведение моих данных. Я пробовал простую линейную регрессию, простую полиномиальную регрессию и полиномиальную регрессию с регуляризацией и перекрестной проверкой. Я обнаружил, что последний метод позвол…
0 ответов

LASSO с моделями без инфляции

Я работаю над моделями ZIP и хочу добавить метки переменных в график LASSO. Код R: library (pscl) library (mpath) library (MASS) data (Insurance) z <- zipath (Claims-Age + Holders + Group | Age + Holders + Group, data=Insurance, nlambda = 10) str…
24 янв '20 в 01:48
1 ответ

Что касается члена перехвата логистической регрессии LASSO с использованием пакета Caret в R

Я установил модель логистической регрессии LASSO, используя пакет каретки следующим образом: require(ISLR) require(caret) mod_fitg <- train(Direction ~ Lag1 + Lag2 + Lag3 + Lag4 + Volume, data=Smarket, method = "glmnet", tuneGrid=expand.grid( .al…
02 сен '19 в 05:57