거제초등학교는 대한제국 말 문을 연 거제 최초의 근대교육기관으로, 거제초등학교의 역사는 지역 근대교육의 역사와 같다고 해도 과언이 아니다.

거제초등학교는 시대에 따라 사립 거제보통학교(1907년)→공립 거제보통학교(1911년)→거제성내심상소학교(1938년)→거제성내공립초등학교(1941년)→거제공립초등학교(1945년)→거제초등학교(1949년) 순으로 변했다.

거제초등학교는 1907년 2월10일 거제군수 고의준이 주창하고 김경식·유공환·염상수 등이 협력해 모은 기금 3800환으로 사립 거제보통학교로 설립된다. 당시 교실은 가정집의 온돌방을 그대로 사용했는데 학과는 보통학이였고 교육과정은 2년이었다.

1909년 3월 거제초등학교는 유진홍·이만석·오덕우·이영돈·전두문·조계승 등 6명의 첫 졸업생을 배출했다. 참석자들은 대한제국 애국가를 합창한 후 폐회식을 가진 것으로 알려졌다. <1909년 4월20일 황성신문 기사>

1910년 11월 당시 사립 거제보통학교의 교직원은 5명이었고, 학생수는 138명, 1년 학교 운영비는 122만80원이었다. 1911년 4월 공립 거제보통학교가 인가되면서 거제초등학교는 일본식민화 교육을 받게 된다. 이때부터 교장도 일본인이 맡게 됐다.

1911년 이후 거제초등학교의 교과목은 수신(修身·도덕)·국어(國語·일본어)·한문(漢文)·조어(朝語)·산술(算術·산수)·지역(地歷·지역 지리와 역사)·도화(圖畵·미술)·체조(體操)·창가(唱歌·음악) 등 9과목이었다.

1911년부터 거제보통학교는 교육과정을 4년으로 바꾸고 거제현 객사였던 기성관 일부를 빌려 사용했다. 1912년부터는 기성관 전체를 빌려 수리해 사용한다. 기성관은 1960년대 초반까지 교실로 사용됐다. 1953년 기성관 및 동서 교사를 대대적으로 지었는데 이때까지만 해도 거제초등학교 건물은 목조건물이었다.

1956년 6월 본관 건물은 현재의 석조 2층 건물로 개축됐다. 당시 건물을 짓기 위해 거제면에서 풍부하게 생산되던 화강석을 주민들과 학생들이 교사를 짓기 위해 직접 날랐는데 이 건물은 지난 2007년 9월21일 등록문화재 제356호에 지정됐다.

조선교육령은 일제강점기 조선인의 일본신민화(日本臣民化)를 위해 실용적인 근로인·하급관리·사무원 양성을 목적으로 만든 교육방침과 교육에 관한 법령이다. 
 제1차 조선교육령은 충량한 국민 육성을 목표로 1911년 8월 제정됐다. 제2차 조선교육령은 3.1운동의 영향으로 식민통치정책이 변경되면서 1922년 2월 제정됐다. 
　이 법령은 조선인뿐만 아니라 일본인도 같은 규정을 적용받게 하고 대학에 관한 규정을 신설했다. 그러나 민족차별은 여전했다. 제3차 조선교육령은 1938년 3월, 군국주의의 이념에 따라 황국신민을 기르는 것을 목적으로 제정돼 조선어는 선택과목이 됐고, 일본문화와 정신을 강요하는 교과목이 늘어났다. 
　제4차 조선교육령은 제2차 세계대전이 발발한 전시 상황에서 1943년 3월 제정됐다. 소학교는 국민학교로 바뀌었다. 조선어는 완전히 폐지됐으며 교육에 관한 전시비상조치방책 등을 공표해 학생들을 전쟁과 생산현장에 동원시켰다.