По умолчанию в заголовках окон располагаются 4 кнопки: одна слева - Stick(прилепить), и три справа - Minimize, Maximize, Close. Вы можете изменить их отредактировав ~/.fluxbox/init. Найдите следующие строки:
session.titlebar.left: Sticksession.titlebar.right: Minimize Maximize Close
и измените их по желанию. Возможные кнопки (для версии 0.9.14):
MenuIcon    Кнопка с изображением либо иконки программы, или иконки меню темы.    При нажатии вызывает меню окна (как при правом клике на заголовке)
Stick    Включает/выключает прилепленое состояние окна, означает показывается ли оно на всех рабочих столах.
Shade    Сворачивает окно в заголовок
Minimize    говорит само за себя...
Maximize    это тоже...
Close    ...и это
После изменений сохраните файл и из меню выполните Config -> Reconfigure or Reload config or Restart'.