Which one is correct?

They seem both correct to me.

Ne dememi istiyorsun? - What-my saying(accusative)-you want?
Ne dediğimi istiyorsun? - What-that I´m saying- you want?

Can someone explain the difference? Thank you.

1.  Ne dememi istiyorsun? - What-my saying(accusative)-you want?

What do you want me to say ? [ what do you expect me to say ?]

2. Ne dediğimi istiyorsun? - What-that I´m saying- you want?

The second sentence is not correct. We use possessive as in the first sentence.

However,  it is possible if we use a different main verb, such as  ; - anlamak

Ne dediğimi  anlıyor musun ?  ---> Do you understand what I am saying ?

Example 1

Ne yapmamı istiyorsun ? ---> What do you want me to do ?

However, when we use a different main verb. [bilmek] , its possible to use -dIk participle.

Ne yaptığımı  biliyor musun ? ---> Do you know what I did [ or do]

--------------------------------------------------------------------

Example 2

Fransaya gitmemi  istiyor musun ? --->  Do you want me to go to  France  ?

Fransaya  gittiğimi  bilmiyor.   --> He/She doesn´t know that I went France.

Roughly, Turkish participles denote real action while infinitives denote imagined, envisaged action.

That is why infinitives are usually used in manipulative sentences (the action did not take place and it exists only in the mind of the speaker) while participles are at their best in reporting speech and actions. Something like

Anne çocuğun eve gelmesini söyledi. ´Mother told the child to come home.´

Anne çocuğun eve geldiğini söyledi. ´Mother told that the child had come home.´

"ne dediğimi istiyorsun?" yanlış.

demek (to say)

de+me(verbal noun)+m(possessive)+i(accusative)--->dememi

Ne dememi istiyorsun? (What do you want me to say?)

gitmek (to go)

git+me(verbal noun)+n(possessive)+i(accusative)---->gitmeni

Gitmeni istemiyoruz. (We don´t want you to go.)

açıklamak (to explain)

beklemek (1to wait, 2to expect)

açıkla+ma(verbal noun)+n(possessive)+i(accusative)-->açıklamanı

Ayrıntılı açıklamanı beklemiyorum, çünkü bu konuyu sen de tam bilmiyorsun. (I don´t expect of you to explain in details, because you don´t know this topic very well, too.)