Columbus nació en Spangler (Pennsylvania) y creció en las afueras de Youngstown (Ohio). Cuando era joven aspiraba a dibujar historietas para Marvel Comics y acabó estableciendo la conexión entre libros de historietas y guiones gráficos. En el instituto comenzó a rodar sus propias películas caseras de 8 mm y a dibujar sus propios guiones gráficos (lo que sigue haciendo a día de hoy). Acabado el instituto, se matriculó en el Programa de Directores de la prestigiosa Escuela de Artes Tisch de la Universidad de Nueva York.

Columbus tuvo éxito primero como guionista. Todavía en la universidad, vendió su primer guión, Jocks, una comedia semiautobiográfica sobre un colegial católico que es probado para un equipo de fútbol. Después de licenciarse en la Universidad de Nueva York, Columbus escribió un drama ambientado en una pequeña ciudad titulado Rebeldes Temerarios (1984), basado en sus experiencia como obrero industrial en Ohio. La película fue dirigida por James Foley e interpretada por Aidan Quinn y Daryl Hannah.

Columbus adquirió prominencia en Hollywood escribiendo varios guiones originales producidos por Steven Spielberg.