Для этого создаем временную таблицу и переносим по одной все не дублируемые записи.Дальше можно переименовать таблицы или перенести все записи из таблицы tmp_users

sql.patch

-- 1. Создаем временную таблицу с правильными записями
CREATE TABLE tmp_users
SELECT * FROM users AS u
GROUP BY u.login 
HAVING COUNT(u.login) >= 1
 
-- 2. Переносим данные из tmp_users в users
-- предварительно очистив users
INSERT INTO users 
SELECT * FROM tmp_users