Повествование строится вокруг того, что главный герой по имени Иозеф Кнехт достигает совершенства в особой игре духа и чувствует неудовлетворенность своей жизнью, после чего разочаровывается и покидает пределы Касталии (созданное людьми хранилище культуры, исчезнувшей из повседневной жизни людей за пределами этой территории). Йозеф занимает должность Магистра Касталийского Ордена — общества хранителей истины. Участники этого Ордена добровольно отказались и от собственной семьи, имущества, политики, так как эти корыстные интересы могут влиять на «игру в бисер». При этом они живут в особенной стране, неподдающейся законам времени, — Касталии (название произошло из мифов о Кастальском ключе с горы Парнас).
В Касталии принято проводить время за особой игру, суть которой заключается в искусном объединении всех искусств воедино, создании универсального искусства. Цель игры состоит в том, чтобы найти глубинную связь между предметами, на первый взгляд, относящимся к разным сферам науки и искусства, а также найти их теоретическое сходство. Так, например, мудрецам предстояло изобразить произведения Баха в виде математической формулы.
История этой страны рассказывается историком, критикующем общественный уклад двадцатого века и его вырождающуюся цивилизацию. Эту культуру рассказчик называет «фельетонистической», что является отсылкой к маленьким дешевым статьям, предназначенным для развлечения аудитории . Фельетонистическая культура не предполагает наличие глубоких смыслов, высоких размышлений и сложных проблем в текстах. Наоборот, содержание статей настолько примитивно, что пользуется бешеным спросом у миллионов.
Люди, непрерывно читающие фельетоны и анекдоты, не имеют ресурсов (времени и сил), дабы побороть тот существующий страх перед неизвестным, разобраться в своих проблемах, понять, что же все-таки происходит вокруг. Историк Касталии пришел к выводу, что такая цивилизация давно истощилась, и поэтому теперь находится на грани разрушения.
Имя Кнехта означает «прислуга», что очень характеризует его готовность всецело отдаться истине и гармонии. Но он лишь на некоторое время обретает спокойствие в Касталии, постепенно он все сильнее чувствует противоречия родной действительности, и начинает сторониться ограниченности этой системы. Это все настолько давит на героя, что он покидает родную страну. Нахождение и путешествия за пределами Касталии оказывают на Йозефа сильнейшее воздействие. Кнехт философствует обо всем: культуре, истории, политике, государстве и, в конце концов, понимает настоящее место Касталии в мире. Смысл произведения заложен в размышлениях героя о том, что воспитание людей должно проходить не в библиотеках, а в реальном мире с его реальными законами.
После отречения от Касталии Кнехт знакомится с молодым мужчиной Дезиньори и становится наставником его сына. На протяжении всего сюжета романа главный герой спорит и рассуждает о жизни и о высших ценностях со своим антаганистом. Порой размышления героев о смысле бытия разбавляют сюжет, во время которого почти не происходит ярких событий. Несмотря на сильную разницу во мнениях, герои не являются врагами и не ненавидят друг друга.
Идея служения благу и гармонии остается доминирующей для Кнехта, даже вне зависимости от внешних обстоятельств, в которых он вынужден пребывать. Попытка построить утопический мир, когда действительность находится во власти бесконечного хаоса, не являлась для героя простой субъективной потребностью. Она выражала его искреннее стремление создать крепость культуры и интеллектуальной чистоты, напоминая современникам и потомкам, что человеческое существование и предопределяемые ею высшие нравственные критерии, сохраняются во все времена.
Однажды во время пребывания на озере Кнехт погибает. Добился ли он поставленной цели — остается неизвестным. Однако читатель понимает, что прятаться от реальной жизни в мире фантазий и книг нельзя.