Récemment, j'ai commencé à arrêterréduit la caféine. Récemment, j'ai réduit la caféine.

"commencé à arrêter" is semantically a bit awkward, since "arrêter" isn't an action that lasts Going from 4 mugs to 1 would be "réduire"

J'ai décidé ça parce que quand je tombe malade, j'ai toujours mal à la tête qui l'aggrave jusqu'à ce que je boive du café. J'ai décidé ça parce que quand je tombe malade, j'ai toujours mal à la tête jusqu'à ce que je boive du café.

"qui l'aggrave" isn't grammatical (it would be a relative pronoun referring to nothing) and it also brings confusion The logic would be you have headaches until you drink coffee (it's a vasoconstrictor so it cures headaches), but let me know if I misunderstood

J'aie suis passé de trois ou quatre tasses par jour à seulement une, ce qui m'a rendu trèsbeaucoup fatigué. Je suis passé de trois ou quatre tasses par jour à seulement une, ce qui m'a beaucoup fatigué.

"passer" is intransitive in this case, so it requires "être" as an auxiliary verb "fatiguer", however, is directly transitive

Pour moi, jJe veux que le café soit une gâterie petit plaisir pour moi, pas un vice. Je veux que le café soit un petit plaisir pour moi, pas un vice.

"une gâterie" would rather qualify a present or some kind of candy/sweet Better to move "pour moi" here so it's not misunderstood as "in my opinion"