Она, наверное, имела ввиду, что m2 - необязательно целое число. Вообще, как у нее сформулировано условие задачи, так это вообще зашибись.

Если а=-1 b=2 или а=-2 b=1, то k=-5 и ни хрена это не полный квадрат, несмотря на то, что все числа целые.

А в целых ПОЛОЖИТЕЛЬНЫХ существует всего одно решение, когда a=1, b=1 и k=1. Ну и когда все нули: тоже решение.