弗洛伊德回到维也纳后，同著名生理学家、神经病学家布洛伊尔（1842-1925）合作研究歇斯底里的心理机制及其治疗方法。布洛伊尔比弗洛伊德大14岁，也是布吕克的弟子，同在布吕克的门下，受了物理主义的生理学训练，后来成为有名的神经病学家。
弗洛伊德在生理病因说的指导下，曾于1886年试用过电流疗法、水疗法、按摩法治疗神经病，但疗效不显著。在心理病因说指导下，他于1887年采用从沙尔可那里学来的催眠法，认为这个方法很好，时间也较为经济。尤其是在1889年，弗洛伊德在南锡被催眠术的名家伯恩海姆的实验所震惊：被催眠的人经过暗示，接受了在醒后一定期限内打开放在房间一角落的伞的指令。从催眠中醒来的太太在规定的期限里准确地完成了指令：她走到了墙角，打开了伞，随后，伯恩海姆问她为什么要去把伞打开。那位太太愣了一会后回答说，她似乎想弄清楚这把伞是否是她的。这一动机显然是事后想出的。尔后，伯恩海姆通过反复询问和提示的途经终于使病人想起了行为的真实原因，即她在催眠状态中得到了开伞的指令。这种情况令弗洛伊德兴奋不已，使他产生了极大的兴趣，他回来后也如法炮制人，给病人催眠治疗。
弗洛伊德运用“催眠法”治疗神经病，取得了一定的效果。他用催眠法治疗的第一个患歇斯底里症的女病人安娜，在许多症候之中，还有一个特殊症候，就是有长达6个星期的时间在干渴得无法忍受时，也不能喝水。在催眠状态中，她叙述自己童年时，有次走进她不喜欢的女家庭教师的房间，看见她的狗从玻璃杯内喝水，引起了她的厌恶，但由于受尊敬师长的传统影响，只好默不作声。她在催眠中，恢复了对这个往事的回忆，尽量发泄了她的愤怒情绪，此后她不能喝水的怪病才消失。
在这段时间里，弗洛伊德认为他的工作进行得轻松而又适意，费时较少，而且富有成效。
在同布洛伊尔的合作中，弗洛伊德治疗歇斯底里病人所用的心理治疗方法是：使病人进入催眠的昏迷状态中，让他回忆和倾诉出隐藏在自己内心深处而作为致病原因的事件。如果这些回忆是伴随着强烈的感情的爆发，那么他就会从疾病的症候中解放出来，他的心情就会感到轻松。这种疗法的实质，就是减轻和消除病人心理深层的思想包袱或精神负担。这种思想包袱是病人曾经经受过的，但又被有意忘掉或压制在心灵深处的某种心灵上的震动、情感或意愿，他的意识由于某种原因，害怕或耻于对它们回忆。这些被遗忘的感受和体验由于不能渗透到意识中去，就不可能正常地清除和发泄，天长日久，越积越多。正是他们引起了歇斯底里症状。应当治理病人对这些感受和体验的记忆缺损，把这些体验唤醒并引至病人的意识，并使之与统一的意识交相融汇，这样使病人能自由放松和发泄。通过这种宣泄途径就会消除歇斯底里症状。
例如，某个姑娘热恋着某人，而这个爱情对她来说是不能容忍的或无法办到的。这种不能实现的爱情就被压抑在姑娘的心灵深处，成为一种与外界完全隔绝的感受。这种隔绝的感受找不到出路，像淤积在心底的火山溶岩，开始以反常的途径寻找出路，这时它已面目全非或是身体某健康部位的僵化，或是无缘无故的恐惧发作，或是某个荒诞的行为等等。歇斯底里症状正是以这种方式形成的。此时医生的任务是向病人了解这个有意被遗忘和她不承认的病因，促使她把它回忆起来。了解病因后，医生就使病人承认被忘却的感受，不再把它“藏”在歇斯底里症状中，并且把它输入意识的“正常生活”里。这里，或者有意识地同这个感受作斗争，或者对它作适当的让步，通过这些方法医生使病人能正常地放松。这样，这位姑娘或许不得不承受生活上的极大的痛苦或烦恼，但这无论如何已不是病了。歇斯底里症状变成多余的并渐渐消失了。
他们把这种方法叫做舒泄法。这种方法是通过谈话或暗示来进行的。弗活伊德称之为谈话医疗法。其后，弗洛伊德的心理分析疗法正是在这种方法的基础上发展起来的。弗洛伊德通过临床的分析，到1891年得到这样的一个结论：精神病患者的症候就是被压抑在内心深处的无意识的冲动的代替物。他断定，这就是解决所谓动力创伤问题的关键所在。
1895年，弗洛伊德和布洛伊尔两人把自己的研究成果写成了一本专著《歇斯底里研究。》在这本书里，他们系统地论述了歇斯底里症状起源、症状和利用谈话的方式而使病人得到舒泄作用。
弗洛伊德把自己的歇斯底里症的疗法比作天主教的忏悔。在忏悔时，教徒的确得到了放松和宣泄，因为他对另一个人，即神甫，讲出了自己认为是罪孽的行为和思想，讲出了在其他环境中，对任何人缄口不提的事情。这样，他用言语表达和发泄心理中被压抑和被隔绝的并因此加重了心理负担的东西，使他一吐为快，如释重负。
这些引起歇斯底里症状、但又被忘却的感受是“潜意识”。这是弗洛伊德学说的第一个发展时斯的理论基础。
《歇斯底里研究》这本书是弗洛伊德的理论的起源。因为他在这本书的序言里已经初步地提到歇斯底里症状起源的理论，即在每个人的内部世界的无意识系统深处都隐藏着一些迫切地要求寻求出路的所谓心理能量。它们在遇到障碍的场合下，不能通过正当的出路释放出来或表现出来的就转化为病理症候。弗洛伊德关于精神分析的理论正是以这种思想为出发点而发展和形成的。他在这本书里首先提出了人类心理结构的基本论理。他把人的心理结构分为三个处于不同层次而又相互联系的系统：无意识系统（或潜意识系统）、前意识系统和意识系统。
无意识系统处于心理结构的深层。它是原始的盲目冲动、生物的本能和出生后被压抑的欲望的储藏库。无意识的冲动、本能、欲望都具有强烈的和迫切地要求得到发泄的心理能量。无意识系统是没有道德观念、是非观念的，也是不合逻辑的和没有时间性的，它无时不在，不因时间消失而发生变化，在我们的一生中都不停地工作着。在无意识中没有否定、怀疑和矛盾。无意识系统的欲望相互间是不协调的、没有联系的。无意识系统服从于愉快原则，它像个不受管教的孩子一样，只知道要千方百计地满足自己的需求和欲望，随心所欲，而不过问其他，只求自己愉快和幸福，具有一种趋乐避苦的本性。其活动规律是力图侵入意识系统中去，通过本能、欲望的满足而得到愉快，避免由于对本能、欲望的压抑和抵抗而感到痛苦。无意识系统中的冲动、本能、欲望是个固定而活跃的心理程序的“发电厂”，给人提供活动的力量，这种力量是创造和破坏、性欲和侵略、生存和死亡的无个性的自然力量，构成了人的内驱力。无意识系统藏有我们童年的大略记忆，这是我们以为早已遗忘了的，其实并未真的遗忘。它还包括我们自己感觉得到的秘密、怨恨、爱以及某些强烈而原始的热情和欲望。这些感觉多半令人不快，并且不符合社会道德，违背法律。由于他们被深深地埋藏在潜意识里，我们通常并不晓得它们的存在。我们醒着的时候，无意识系统大大地影响着我们的日常生活。它影响我们思考、感觉和行动的方式；在夜间，它又出现在我们所做的梦里。它还影响我们职业的选择、结婚的对象、健康的状况以及我们生活中的每一件事情。无意识现象在精神病人、儿童或醉汉的身上非常典型的表现出来。
前意识系统处于心理结构的中层。它是无意识系统和意识系统之间的一个边缘部分。与无意识系统不同，前意识系统中的东西并没有被积极地、完全地压抑起来。前意识是存储在记忆中的东西，它一度属于意识，因与目前的实际情况关系不大，因而被逐出意识之外，居留在意识的近处。前意识的主要机能在于实现和执行“检查者”的职责，即在无意识系统和意识系统之间从事警戒。它的任务在于不允许充满心理能量的无意识的冲动、本能、欲望渗透到意识系统中去。前意识系统里包含有社会的、道德的、伦理的和宗教的准则、规范和价值观，由它们组成了所谓人类的良知。良知是前意识的核心。它与社会意识结合在一起，形成了自我理想。自我理想起着检查者的作用，其目的在于把乱闯乱窜的本能、欲望的冲动限制在无意识系统以内。无意识系统仿佛是本能、欲望的拘留所，而自我理想则始终都是作为有警惕性的检查者来发挥作用的。所有被压制、排挤到拘留所中的本能、欲望总是精力充沛地向着防御着它们的检查者发起进攻。检查者为了挫败它们的进攻。总是不断地向它们施加压力。那些受压制的本能，欲望有时采取迂回的和伪装的方式也会逃脱检查者的监视而得到成功，即趁着守卫者失去警惕而潜入前意识系统。在这种场合下，它们仍然具有充沛的心理能量，还企图闯进意识系统中去，但是它们在到达意识系统的道路上还会遇到新的障碍第二个检查者，这就是在无意识系统和意识系统之间的空间上守卫所产生的干扰作用。
意识系统处于心理结构的上层，介于外部世界和内部世界的边缘部分，因而它面对着两个世界。一个是外部世界，即它通过感觉器官来反映外部的客观世界；另一个是心理世界，即它通过全身和神统系统来控制心理器宫的无意识系统和前意识系统。意识系统是诸心理因素的统帅者，它支配和协调着人的各项心理活动，使之达到连贯性、统一性和和谐性。意识系统首先是内部世界的无意识刺激的接受区，其次才是来自外部世界的刺激和感性经验的接受区。意识主要取决于无意识的本能、欲望和潜在的冲动，而不是取决来自外部世界的刺激的特性。人的整个心理过程和实质都可归为无意识的，人的一切心理活动都是无意识的表现。弗洛伊德把这种无意识学说称为深层心理学，即不是对人心理结构的现象描述，而是对人的心理结构的基础和动力的揭示，是要透过人的精神生活的表层，去探索、揭示人的全部精神生活的原始基础。
弗洛伊德进一步详细地论述了心理结构中的三个系统的意义和它们之间的相互关系。为了便于理解，他把心理结构赋予一种空间观念。按中国人的习惯，可以把无意识系统比作里面的房间，其中心理冲动像是些分别的个体，相互挤在一起。和这个房间毗连的第二个狭窄的房间是一间接待室，意识就存在其中。但是在这两个房间之间的门口有一个守卫执行着他的任务：作为检查员，他检查着不同的心理冲动，如果这种冲动出来后有可能危害社会或妨碍他人时，那就不允许它们进入接待室。你们会立刻看到，守卫就是在门口把一种特殊的冲动逐开，或者是在这种冲动已经进入接待室以后，再把它重新推回到里面的房间，这二者没有多大区别。因为这只是他的警惕性程度和他识别行动的敏捷程度问题。如果无意识已经迫近门口，而又被守卫赶回，不许他们出来成为意识，我们说它们是被压抑的。但是甚至守卫允许进入门口的冲动也不因此一定会成为意识的。因此，我们可以把接待室叫做前意识系统。对于任何特殊冲动来说，处于压抑状态的原因就在于它没有被守卫允许从无意识系统进入前意识系统。至于这个守卫，就是在用分析治疗方法去消除压抑时所遇到的抵抗。
弗洛伊德在谈论心理结构中三个系统的空间存在的位置时，在无意识系统和前意识系统之间设置了一个守卫。但是弗洛伊德对意识系统的研究很不重视，所以在空间位置的排列上，并没有把它安排在专门的房间内，而是把它同守卫者一样地分配在房间以外。具体地说，就在接待室的门外，作为观察者，对内接受无意识系统和前意识系统的刺激和信息，对外则根据所接受的内部信息来应付外部的客观世界。在弗洛伊德的著作中，关于意识系统的专门论述是很少的。
整个无意识层都处于压抑之中，这是弗洛伊德学说的一个基本之点。他认为在无意识系统中被压抑的欲望和本能是导致神经病的根本原因。那么，被压抑的欲望是什么性质的欲望呢？弗洛伊德以为主要是性的欲望。由此弗洛伊德主观臆测地得出这样一个结论：在任何精神病的产生中，性的障碍和冲突都占有主导地位；任何被压抑的欲望、冲动、思想和感情在本质上都是由性欲产生的，并且其根源要追溯到儿童时期。性欲障碍造成神经病；反过来，神经症总是由被压抑了的性冲动造成的。
布洛伊尔不同意弗洛伊德的这种过分强调性欲的观点，便毅然决然地同他决裂，分道扬镳了。
弗洛伊德的无意识理论是一个了不起的贡献。他第一次揭示了无意识的真谛，为我们研究精神活动和心理过程开辟了一个新的领域。
但弗洛伊德关于心理结构的理论大都出于主观虚构，是缺乏科学根据的。在他分析心理结构问题时，根本没有提到心理对脑的依赖性。这是由于他从心理生理平行的观点出发，认为神经系统的生理过程的链条与心理过程之间并不存在着因果关系，它们之间的关系是平行的。因而，他片面强调，在对脑机能的知识知道得很少的情况下，心理学研究可以完全不考虑脑的生理学问题，因为心理现象有自律性，只要借助于纯心理学的假设，就可以发现心理生活的规律性。离开大脑研究人的心理本质问题，这就很难得出科学的结论。关于这一点，列宁曾作出过这样的评论：“心理的东西是进行正常活动的人脑机能；把这种机能变为普遍抽象概念，用这种抽象概念‘代换’整个物理自然界，这是对自然科学的嘲笑。”根据大脑生理学的科学研究，不只一般心理过程是在高级神经活动基础上进行的，而且一般脊椎动物的本能也是由大脑调节的。
在心理结构的理论系统中，弗洛伊德把无意识提到首要的地位来研究，因而提出了无意识决定论。他在谈到意识和无意识在整个心理结构的位置时，曾形象地比喻说，意识只不过是心理现象中的一个表面上小而不重要的部分，而水面下的广阔而深沉的部分都是无意识的。弗洛伊德认为，无意识内部蕴藏着种种力量。这种力量是人的行为后面的内驱力，在人的行为中起着决定性的作用。而人是意识不到心理过程的。心理学应当揭示人的行为后面隐藏着的它的动机和原因。用无意识心理过程的术语解释人的行动，这是心理分析的理论核心和典型特征。弗洛伊德在理解心理的东西的问题上具有唯灵论。
弗洛伊德全神贯注于无意识过程的深层，同时又把无意识系统看作是一个封闭系统。从决定论的侧面看，他根本忽视心理对外部世界的依赖性。尽管他也提到，意识系统是同外部世界相接触的，但是在他的理论系统中，并不是把外部世界看作是人的心理的决定者，而是把外部世界降低到对先天的、无意识的本能、欲望的压抑、防御的水平上。这是同马克思主义关于存在决定意识和心理是外部世界的反映的辩证唯物主义的观点直接相对立的。须知，这些辩证唯物主义的观点是用心理科学的丰富材料和人类全部历史事实所证明了的真理。
弗洛伊德在心理结构论的分析中，强调无意识系统中的本能、欲望对人的行为、活动的决定作用，说它们给人的行为、活动提供动机的力量，而并不考虑人的活动对他的心理的反馈作用，这也是不符合事实的。心理科学的研究表明，人的心理是在他的行动、活动中形成和发展起来的。人们在“改造环境的同时也改变着自己”，人的活动不对心理发生影响是不可能的。
可见，弗洛伊德的心理结构理论是含有许多唯心主义成份的。
