Si les trois nombres ont la même partie décimale, il existe un nombre décimal x et deux entiers positifs ou nuls N et P tels que les nombres soient x, x+N et x+P.
Le problème s'écrit alors :
x(x+N) = x+P
soit
x^2 + (N-1) x - P = 0

delta = (N-1)^2 +4P qui est supérieur ou égal à zéro
d'où la (les) solution(s) :
x = 1/2 (-N+1 +/- racine(delta))

Et on est bien embété.
Si delta est un carré parfait, x est de la forme K/2. Seuls les K pairs conviennent et on a alors une partie décimale nulle, solution triviale au problème.
Sinon x n'est pas un décimal... car il a une infinité de décimales. Il faudrait remplacer dans l'énoncé décimaux par réels.
Pour trouver une formulation plus élégante des solutions, partons de R =racine(D) avec D entier non carré parfait , et cherchons des solutions sous la forme (a+R) et (b+R) Le produit donne
ab+(a+b)R+D
D'où il sort a+b = 1
Les solutions sont donc de la forme :
a+racine(D), (1-a)+racine(D) ou a-racine(D), (1-a) - racine(D)

Exemple le plus simple = racine(2) et 1+racine(2) dont le produit donne 2+racine(2).