距今170万年前东亚大陆上已有原始人类生存。远古时代的日本与东亚大陆是有陆路相连的。只是在1万年前，海水上涨，日本列岛才与大陆分隔开。日本最早发现原始人化石，是在1931年。当时考古学者在兵库县明石市西八木海岸，发现了一片古人类的左腰骨化石，后定名为“明石猿人”1945年后，随着考古学的发展，古人类化石不断发现。虽然发现的遗骨数量不多，但也显示了原始人类发展的轨迹。
1950年，在枥木县安苏郡的葛生町，考古学者发现了6件人类遗骨化石，取名为“葛生猿人”。1957年，在爱知县丰桥市的牛川町，考古学者发现了2块人类的遗骨化石，取名为“牛川人”。1959年，在静冈县的三日市，发现了人类的7件遗骨化石。1960年以后，又相继在静冈县的滨北市，大分县的圣岳洞穴、岩户，冲绳县的港川、宫古岛等地出土了人类的遗骨化石。日本古人遗存共达二十多处。
并据学者研究，明石人遗骨化石是日本发现的古人类遗骨中最原始的人骨化石，它所处的层位在第二冰河期，与中国的蓝田猿人、北京猿人属于同地质年代。宫古岛人与中国南方猿人有相似之处。其余的葛生人、圣岳人、牛川人、三日人、滨北人、港川人生存的年代，大约在更新世中期至晚期之间。据遗骨检测数据，其中圣岳人、三日人与中国的山顶洞人在种族形态上均属东亚类群，十分相近。
日本有一位名叫相泽忠洋的年轻商贩，他也是一位业余的考古发掘爱好者。1949年初夏，他行商到群马县新田郡笠悬町，在名为“岩宿”的地方，十分偶然地在一处裸露的红土层里发现了一些打制石器。经过明治大学考古专家们的鉴定，确认为旧石器。这一发现震撼了日本考古界，岩宿遗址被确定为日本首次发现的旧石器时代遗址。从日本初次发现旧石器遗存以来，经过50年的发掘，旧石器文化遗址已达约四千处，遍及日本列岛。探求日本文化的源头，一般就从岩宿文化为代表的旧石器文化开始。
日本的旧石器文化可以分为三个发展阶段。第一阶段(大约10万年前一3万年前)的石器文化，以手握工具和指捏工具为主，石器原料来源于自然砾石，经过简单的加工，成为尖器和刮削器等;第二阶段，日本的旧石器文化发生了明显的变化：定型石器和研磨技术出现，装柄石器普及;第三阶段，日本旧石器文化进入细刃器文化阶段。
不同阶段的旧石器文化，与东亚大陆，特别是与中国的石器文化有着密切的关系。日本早期的旧石器文化，与中国周口店的石器文化有许多近似之处，中期的石器与中国的陕西、河南、山西一带的石器文化相似，而晚期的细刃器文化则属于中国华北的细刃文化圈。
对旧石器时代日本原始人类的生活状况，我们仍所知不多。特别是在2000年11月，被称为“上帝之手”的藤村新一“考古造假事件”被揭露之后，日本考古界开始重新检测全部旧石器文化遗址、遗物，故存在不少不确定因素。而且，在原始文化方面，除人类遗骨化石及石器可供推测外，也无法具体考察。故讲述日本文化起源，还只能从新石器时代的绳文文化开始。
日本原初文化，主要指绳文时代的文化。亦有学者将后来的弥生文化、古坟文化均当做原初文化的重要组成部分。大约1万年前，日本进入新石器时代。这一时代的最大特征，就是人类开始制造和使用陶器。在这一时代的遗址中，出土陶器的外部大多饰以草绳纹，因此被称为绳文(纹)陶器。
这一时代也被定名为绳文(纹)文化时代(约1万年前一约公元前3世纪)。从考古资料可知绳文时代的日本社会，以血缘为纽带的母系家庭是基本单位，一个母系家庭大致由五至十人组成，若干个同血缘的家庭构成氏族公社。一般情况下，绳文前期，一个氏族公社由六七户同血缘家庭组成，中期或后期，则由十户左右的家庭组成。一个原始公社的成员大多以弧状或环状构筑竖穴群。弧状或环状的竖穴群中央辟有召开公社会议、举行集体活动和从事祭祀的场所。
绳文人的生产活动主要是狩猎、捕捞和采集。与这种活动相适应，生产技术也有明显的提高。生产工具除石器外，尚有陶、木、竹、骨器。狩猎工具弓矢已广泛应用。捕捞用的独木舟及种种渔具的出土，表明绳文人已开始从事深海捕捞，并已使用网捕法。从出土的遗物分析，绳文人的食物种类非常广。他们食用的植物达300种以上，鱼类70余种，贝类两百余种，陆地动物60余种。
绳文人的生活随着生产范围的扩大日益改善。首先表现在生活方式逐渐由流动趋向稳定。早期的尖底深钵陶器在中期以后被平底深钵陶器所替代。原始的织布技术也已出现。装饰品的制作技术达到了相当高的水平。考古发掘中用兽骨、鱼骨、贝壳、玉石、竹木制造的精美饰物有大量发现。绳文人把自然物作为崇拜偶像。
他们最崇拜的偶像是女性神。女性神被视为丰产的象征，避邪驱恶的神灵。绳文人还有屈肢葬和拔齿的风俗。尽管绳文文化对日本文化有着多方面的深远影响，如语言、风俗、信仰崇拜等。但日本文化还是应被视为在日本农耕社会确立之后开始形成的。
