Das R ist wohl ℝ ?
Dann ist Abgeschlossenheit gegeben, egal was n und k sind.
Außerdem muss es assoziativ sein, also für alle x,y,z ∈ ℝ gelten
x ° (y ° z)  = ( x ° y)  ° z
<=> x ° (ny +kz)  = ( nx + ky)  ° z
<=> nx + k(ny +kz)  = n( nx + ky)  + kz
<=> nx + kny +k^2 z  = n^2 x + nky  + kz
Damit das für alle x,y,z gilt, muss
n^2 = n und k^2 = k  gelten
also
( n=0 oder n=1 ) und  (k=0  oder k=1).