Los que deberías cambiar para notar mejora de rendimiento son (en este orden):
-El procesador (puedes necesitar cambiar la motherboard si el socket es antiguo)
-La ram (si quieres usar la DDR4, tambien tienes que cambiar de motherboard)
-Disco duro (usar SSD para un alto rendimiento)
-Gráfica (alguno dirá: ¿AL FINAL LA GRÁFICA? Pues sí, porque solo mejora el rendimiento de juegos o programas que requieran potencia de la GPU y es prescindible, pero el sistema operativo y demás no va a mejorar notablemente, ya puedes tener una GTX 1080, que si tienes un intel Atom eso va a ir mas lento...)