Det du behöver för att kompilera:
JDK från Sun, som du hittar på http://java.sun.com
För att kunna köra dina program:
JRE från Sun, som du hittar på http://java.sun.com aswell. 
För att skriva dina program:
NotePad eller liknande.
Ett hett tips är annars JCreator 2.0 eller Eclipse som IDEer.