中小企業是台灣經濟快速發展的一支主要力量，佔全台廠商總數約97%以上，產品總值60%以上，其經營者是一群完全來自民間，以自己的血汗，運用每一個有利的機會和條件，降低成本，提高效率，讓自己的企業得以在國外競爭之環境中求取生存與成長。然而，在全台經濟中扮演舉足輕重地位之中小企業，前因沒有組織與代言人，致使在政府經貿政策下，長久處於弱勢的角色。有鑑於此，1987年一批中小企業的負責人，共同發起創設「台灣區中小企業聯合會」以期在政府相關單位制定財金法規中，能有發言與表達意見的機會。

1991年1月，立法院三讀通過「中小企業發展條例」，中小企業的發展總算取得了正式法定地位，然而中小企業此時卻面臨更嚴峻的挑戰，如台灣環保、勞工、融資、土地等問題，致使中小企業面臨重大的危機，國際間保護政策的興起，更加重外貿開拓的困難。近年來大陸經濟的快速崛起，相對台灣投資環境日漸惡化，而吸引了無數的中小企業爭相前往投資，但限於中小企業之財力、人力及大陸資訊的不足，溝通管道缺乏，貿然的投入，可能陷於單打獨鬥，徒然消融了有用的資源。因此，原「中小企業聯合會」之主要發起人，深感有必要再度結合中小企業的力量，因應環境變遷，爭取自身合法權益，敦促政府改善投資環境，維護企業公平競爭，並透過相互協助進行大陸及國際投資，開拓更廣大的市場。

1993年2月12日起，發起人朱高正立委舉行一連串座談會，詳議創會事宜，隨後經連署同意發起，備妥相關資料，於同年3月18日向經濟部申請籌設「中國中小企業發展協進會」，4月23日經濟部覆文同意後，積極召開數次籌備會及公聽會，並對外發佈公告徵募會員，5月7日籌備會通過定於6月26日舉行成立大會，同時選舉理、監事人員。2003年3月，正式更名為「台灣中小企業發展協進會」，以落實推動本會宗旨及相關會務，正式為各中小企業提供服務，並期待整合各方力量投資興業中國大陸市場。