单位不可以随便开除退伍军人。除特殊情况外，如严重违反用人单位的规章制度的;严重失职，营私舞弊，给用人单位造成重大损害的;被依法追究刑事责任的等。单位辞退任何劳动者都要有合理合法的理由，否则就属于违法辞退，单位是要支付双倍经济补偿金的。经济补偿按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。
劳动者有下列情形之一的，单位可以开除：被依法追究刑事责任的；在试用期间被证明不符合录用条件的；严重违反用人单位的规章制度的；严重失职，营私舞弊，给用人单位造成重大损害的；严重违反用人单位的规章制度的；其他。
复员军人与退伍军人的区别：
1、退伍军人叫退出现役部队服预备役，为预备役军人（30岁以前）。
2、义务兵退出现役部队叫退伍，一期、二期士官退出现役部队叫复原军人，三期四期退出现役部队叫转业军人，五期、六期退出现役部队叫退休。
3、所有的军人退出现役统称叫退伍。
【本文所涉及的法律依据】：：
《中华人民共和国劳动合同法》
第四十七条
经济补偿按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；
不满六个月的，向劳动者支付半个月工资的经济补偿。
劳动者月工资高于用人单位所在直辖市、设区的市级人民政府公布的本地区上年度职工月平均工资三倍的，向其支付经济补偿的标准按职工月平均工资三倍的数额支付，向其支付经济补偿的年限最高不超过十二年。
本条所称月工资是指劳动者在劳动合同解除或者终止前十二个月的平均工资。
因篇幅问题不能全部显示，请点此查看更多更全内容