1992年，中国科学院院士、时任复旦大学校长杨福家同志宣布成立复旦大学并行处理研究所（Parallel Processing Institute，PPI），由朱传琪教授担任首任所长，主要从事系统软件、体系结构和编译优化等方向的研究。2000年，研究所在并行编译方向取得显著成果，自主研发了针对Fortran的并行化编译系统AFT。2004年，研究所的研究方向不断扩展，涵盖到计算机系统的多个领域，如虚拟化等。

      2016年，大数据工场建立，研究所负责一体化云平台的设计、建设和管理。2020年，依托于大数据研究院，成立基础系统软件研究所，现任所长为中国工程院副院长陈左宁院士。

 迄今为止，研究所已承担了核高基、科技支撑计划、863和自然科学基金项目等一批研究课题。在培养的博士研究生中，张为华博士（现任复旦大学计算机科学技术学院教授、博士生导师）、陈海波博士（现任上海交通大学软件学院教授、博士生导师）和张逢喆博士（现就职于华为公司）3人获得中国计算机学会优秀博士论文，1人获得上海市优秀博士论文和全国优秀博士论文。毕业生或前往MIT、UIUC、UCLA、Purdue、Rice、NYU等世界著名学府继续深造，或签约阿里巴巴、腾讯、百度、华为、Intel等国内外顶尖企业。

 研究所始终以成为国际领先的系统领域科研团队为发展目标。现有中国工程院院士1人、教授1人、高级工程师2人、讲师3人，在邯郸校区、江湾校区和新金博大厦等多个地点拥有办公场所。针对国家痛点和产业界的问题，深入开展面向大数据和人工智能的基础系统软件、软硬件协同设计和编译优化等领域研究，力争在相关领域形成国际领先。近年来，团队的学术水平快速提升，已连续在OSDI、MICRO、DAC、ATC、和PPoPP等国际顶级或重要会议发表论文60余篇。在开展研究的过程中，研究所与国内外相关机构和产业界形成了良好的合作关系。