Alucra'nın yerleşim tarihi Hititlere kadar uzanmaktadır. İskitler Kimmerler Medler Persler Romalılar ve Bizans'lılar bölgede sırasıyla hakimiyet kurmuşlardır. M.S.391 yılında Alucra Orta Asyadan gelen Kıpçak ve Peçenek Türklerinin istilasına uğramış, bölge 60 yıl kadar Türklerin yönetiminde kalmıştır. 8. Yüzyılda ise Maveraünnehirden gelen Oğuzlar Çamoluk Çakmak ve Koman bölgelerine yerleşmişlerdir.

1071 Malazgirt Muharebesinden sonra Alucra ve çevresi Selçuklular tarafından fethedilmiş, Merkezi Trabzon da bulunan Danişmendliler Beyliğinin idaresine verilmiştir. Bölge Bizans ve Mengücekliler arasında bu dönemlerde birkaç kez el değiştirmiştir.

Osman oğulları Anadolu birliğini kurunca,Alucra da bu beyliğe katılmış oldu. Akkoyunlular Alucra'yı bir dönem topraklarına kattı. Ancak Fatih Sultan Mehmet Han bu bölgeye sefer düzenleyerek geri aldı. Otlukbeli Muharebesinden sonra da Alucra bölgesi tamamen Osmanlı İdaresinde kalmış oldu. Aluç ağacının çok olması dolayısıyla bu dönemde ismini aldığı sanılmaktadır. Başka bir rivayete göre de Fatih Sultan Mehmet Han Şebinkarahisar da iken elini Alucraya uzatarak "el-ücrâ" (ücra yer) diye söyledigi rivayet edilir.

Anadoluda çıkan Celali İsyanlarından Alucra da etkilenmiştir. Bu bölgedeki isyancılar Kuyucu Murat Paşa tarafından sindirilmiştir. I. Dünya Savaşında Alucrada bir cephe oluşturulmuş, cephe komutanı Mareşal Mustafa Fevzi Çakmak karargahını bugünkü Çakmak köyünde kurmuştur. Halen bu köyde bir şehitlik mevcuttur... İlçede yaylacılık çok gelişmiştir. Eskiden bölge halkı hayvan otlatmak için yaylaya göç etmekte iken son yıllarda, Temiz dağ havası alarak dinlenmek ve çeşitli yayla şenliklerine katılarak eğlenmek için yaylaya çıkılmaktadır. Yöre halkının çıktığı yaylalarda yaz aylarında çeşitli festivaller ve şenlikler düzenlenmektedir.

1876 yılına kadar Mindeval ve Kuvata adında iki nahiye olarak idare edilen Alucra, bu tarihten sonra Şebinkarahisar Mutasarrıflığına bağlı bir ilçe olmuştur. İlçe merkezi, Karabörk, Kemallı, Koman köylerinde zaman zaman yer değiştirdikten sonra, şimdiki yerine yerleşmiştir. 1933 yılında Şebinkarahisarın da ilçe olmasıyla Alucra Giresun İline bağlı bir ilçe olmuştur.