Вначале нужно определиться о каком плиточном клее идет речь.
Это может быть плиточный клей на основе цемента и причем как серого, так и белого.
Клей на основе цемента может наноситься разным слоем, есть клей для плитки большого и малого формата, для внутренних и наружных работ.
Помимо цементного клея, есть двухкомпонентный плиточный клей, полиуретановый, эпоксидный, эпоксидно-полиуретановый, из названия понятно что при замесе смешиваются компонент "А" с компонентном "В" (отвердитель) в определенных пропорциях.
Плиточный клей (Советский вариант) может изготавливаться самостоятельно, в составе такого клей, цемент,песок, клей ПВА.
При работе с "самодельным" клеем плитку, предварительно замачивают.
Плиточный клей, не предназначен для заливки в формы, если придерживаться рекомендаций от производителя и отталкиваться от личного опыта, то заливать его в формы нельзя.
Если "колхозить", то технически это сделать можно, но результат (положительный) гарантировать невозможно.
Одна из главных характеристик любого плиточного клея, это великолепная адгезия, даже инструмент отмывать от его остатков, сложно ("липнет" ко всему, если проще).
Соответственно извлечь из формы, его (застывший клей) будет непросто и при этом сохранив, целостность изделия.
Даже если формы предварительно смазать, это не гарантирует положительный результат.
Если форма глубокая, то заливать придется плиточный клей значительным слоем это и на время полного высыхания влияет, а главное на прочность изделия, изделие может быть хрупким, или пойдет трещинами, потеряет форму и.т.п.
Практически любой плиточный клей просто на порядок дороже алебастра, то есть и с экономической точки зрения, такая замена не эффективна.
Вывод:
Технически это сделать можно, но качество изделия будет низким, будут проблемы с извлечением "заливки" из формы и потратите гораздо больше средств, чем планировали.


Смотря что Вы изготавливаете, если декоративный кирпич, то заливать в формы можно не только алебастр, но и цементно-песчаную смесь, вот фото
для наглядности, раствор на основе цемента, прочней гипса.
Можно и бетон использовать (мелкозернистый).
Алебастр можно заменить высокопрочным скульптурным гипсом.
А плиточный клей использовать по назначению (укладка керамической плитки, керамогранита, мозаики и.т.д).