По умолчанию в заголовках окон располагаются 4 кнопки: одна слева - Stick(прилепить), и три справа - Minimize, Maximize, Close. Вы можете изменить их отредактировав ~/.fluxbox/init. Найдите следующие строки:
session.titlebar.left: Stick
session.titlebar.right: Minimize Maximize Close
и измените их по желанию. Возможные кнопки (для версии 0.9.14):
MenuIcon
Кнопка с изображением либо иконки программы, или иконки меню темы.
При нажатии вызывает меню окна (как при правом клике на заголовке)
Stick
Включает/выключает прилепленое состояние окна, означает показывается ли оно на всех рабочих столах.
Shade
Сворачивает окно в заголовок
Minimize
говорит само за себя...
Maximize
это тоже...
Close
...и это
После изменений сохраните файл и из меню выполните Config -> Reconfigure or Reload config or Restart'.