The important thing here is I started to sentence with third person then I used first person and then I finished it with a third person personal ending. This is because "diye"  function as a quote. I could use third person always but in the second sentence when I used third person in the middle it didnt make sense.

Well it makes sense now. So I could use third person everywhere in the sentences.

I have understood diye structure is always a direct quote. It is a funny, transparent piece of language but I never succeeded to use it correct until now.

gokuyum, thanks for enlightening me.

I am not sure about those sentences abla. Third person and first person both make sense. There must be an explanation for it.

Maybe the structure is on its path of grammaticalization, kind of loosing its connection with the direct quote. Maybe diye will be a dead particle in the future with no connection to demek. Just a guess.

Maybe the explanation is:

She is thinking about herself:

Bazen uzun zaman önce terketmeliydim diye düşünüyor

sometimes she thinks she should have left a long time ago

She is thinking about someone else:

Bazen uzun zaman önce terketmeliydi diye düşünüyor

Sometimes she thinks he should have left a long time ago

This is a meaningful difference.

It works :

Bazen, uzun zaman önce terketmeliydim diye düşünüyorum 

Bazen, uzun zaman önce terketmeliydin diye düşünüyorum 

Bazen, uzun zaman önce terketmeliydi diye düşünüyorum 

Bazen, uzun zaman önce terketmeliydik diye düşünüyorum 

Bazen, uzun zaman önce terketmeliydiniz diye düşünüyorum 

Bazen, uzun zaman önce terketmeliydiler diye düşünüyorum

Fine, scalpel. But the most interesting combination is the one with sg 3rd and sg 3rd because there are two possible ways to see it. What you say means that this diye part is an independent wholeness  -  it doesn´t take orders from outside.

Actually, not only sg 3rd+sg 3rd... 

A- speaker, B- 3rd person, C- listener D - 4th person

----------------------------------- ( kim terketmeliydi? )

...terketmeliydim diye düşünüyor ( A or B? ) 

...terketmeliydin diye düşünüyor ( C )

...terketmeliydi diye düşünüyor ( B or D? )

...terketmeliydik diye düşünüyor ( pl A or pl B? )

...terketmeliydiniz diye düşünüyor ( pl C )

...terketmeliydiler diye düşünüyor ( pl B or pl D ? )

As you see only the listener´s position is clear...

Using a name gets rid of the ambiguity:

bazen, Ahmet için uzun zaman önce terketmeliydi diye düşünüyor. (Ahmet =>4th person)

With "benim / bizim için" 1st person may be treated as 3rd person:

bazen, benim için uzun zaman önce terketmeliydi diye düşünüyor

But we don´t have to use diye...

gokuyum tried to save you from gerekmek.. but.. yes, it may have to do with gerekmek again

Welcome back to your nightmare!

Bazen, uzun zaman önce terketmem gerektiğini düşünüyor ( benim)

...terketmen gerektiğini düşünüyor ( senin)

...terketmesi gerektiğini düşünüyor ( kendisinin )

if it is 4th person, pronoun o used to make it clear:

Bazen, onun uzun zaman önce terketmesi gerektiğini düşünüyor

A name makes it even clearer:

Bazen, Ahmet´in uzun zaman önce terketmesi gerektiğini düşünüyor

...